Together AI

Together AIとは、オープンソースの大規模言語モデル（LLM）や画像生成モデルをクラウドAPI経由で利用できる推論プラットフォームです。Llama・Mistral・Qwen・DeepSeek等の主要オープンソースモデルを、OpenAI互換のAPIフォーマットで低コストかつ高速に提供しています。

設計思想として、Together AIは「オープンソースモデルのためのクラウドインフラ」を志向しています。自前でGPUサーバーを用意してモデルをデプロイする手間を省き、APIコール1つでオープンソースモデルの推論・ファインチューニング・埋め込み生成を利用できます。

主要サービスとして、(1)推論API（Inference）：100以上のオープンソースモデルをサーバーレスAPIとして提供。チャット・補完・埋め込み・画像生成に対応、(2)ファインチューニング：独自データでモデルをカスタマイズ。LoRA・フルファインチューニング・DPOに対応し、学習完了後は専用エンドポイントでデプロイ、(3)カスタムモデル：組織専用のプライベートモデルをホスティング、(4)GPU クラスター：大規模な学習ジョブ向けにGPUクラスターを提供を展開しています。

LLMアプリ開発での活用として、OpenAI・Anthropicの商用モデルよりも低コストでオープンソースモデルを利用でき、特にLlama 3.1 405Bのような大規模モデルを自前でホストするのが困難な場合に有効です。APIがOpenAI互換のため、LangChain・LlamaIndex等のフレームワークから`base_url`を変更するだけで利用開始できます。Replicateが幅広いMLモデルのホスティングに対応するのに対し、Together AIはLLM・生成AIモデルに特化して最適化されている点が特徴です。