DSPy

DSPy（Declarative Self-improving Language Programs）とは、スタンフォード大学のOmar Khattabらが開発したLLMパイプライン最適化フレームワークです。従来の「プロンプトエンジニアリング」（人手でプロンプトを試行錯誤して改善する手法）に代わり、タスクの目標と評価指標を宣言的に定義するだけでパイプライン全体を自動的に最適化できます。

核心的なアイデアとして、DSPyはLLMパイプラインをPythonプログラムとして宣言的に記述し、コンパイラが評価指標を最大化するようプロンプト・Few-shotサンプル・パラメーターを自動生成・最適化します。これにより、エンジニアは「何を達成したいか（What）」を記述するだけで「どのようなプロンプトで達成するか（How）」の最適化をDSPyに委ねることができます。

主要コンポーネントとして、(1)Signatures（シグネチャ）：LLMへの入出力の型を宣言的に定義（例: `class QA(dspy.Signature): question -> answer`）、(2)Modules（モジュール）：Predict（基本推論）・ChainOfThought（思考連鎖）・ReAct（エージェント型）等の再利用可能な推論パターンを提供、(3)Optimizers（オプティマイザー）：BootstrapFewShot・MIPRO・BayesianSignatureOptimizer等がトレーニングデータと評価指標に基づきプロンプトを自動最適化、(4)Evaluate（評価）：評価データセットと指標を定義してパイプライン全体の性能を定量評価があります。

実用上の利点として、特定のLLMモデルに特化したプロンプトではなく最適化されたモジュールを使うため、モデルをGPT-4からClaude・Llamaに切り替えた際も再最適化で対応でき、モデル依存性を低減できます。RAGパイプライン・マルチホップ質問応答・複雑な推論タスクの品質向上に特に効果的です。