Dify

Difyとは、2023年に創業されたLangGenius社が開発するオープンソースのLLMアプリケーション開発プラットフォームです。プロンプト設計・RAGパイプライン構築・AIエージェント・ワークフロー・データセット管理・モニタリングまでをWebブラウザのGUIで完結させることができ、エンジニア以外でもLLMアプリを実用レベルで構築できる民主化を実現しています。

主要機能として、(1)ワークフロー（Workflow）：LLM呼び出し・条件分岐・ループ・コード実行・HTTP呼び出し・サブワークフロー等をビジュアルエディタで接続してDAG形式のパイプラインを設計。ChatflowとWorkflowの2種類、(2)RAGパイプライン：PDF・Word・Web・Notion・GitHub等のデータソースからナレッジベースを作成し、チャンク分割・エンベディング・ベクター保存を自動化。Q&Aペア生成によるファインチューニング用データ作成も可能、(3)エージェント：ReActパターンまたはFunction Calling方式のエージェントを設定し、Webブラウジング・コード実行・カスタムAPIをツールとして登録、(4)プロンプト管理：プロンプトのバージョン管理・A/Bテスト・変数テンプレートをGUIで管理、(5)モニタリング：LLMへのリクエスト・レスポンス・コスト・エラーをリアルタイムでログ収集・可視化があります。

デプロイ・配布機能として、構築したアプリをAPI・Webウィジェット・Slackボット・WeChat等のチャネルとして1クリックで公開できます。セルフホスト版（Docker Compose・Kubernetes）とDify Cloud（SaaS）の両方が利用可能で、プライバシー要件の高い企業はオンプレミスデプロイが選択できます。

エコシステムとして、Dify Marketplaceではコミュニティ製プラグイン・ワークフローテンプレートが公開されており、既製テンプレートを組み合わせた迅速な開発が可能です。