Amazon Bedrock

Amazon Bedrockとは、AWSが提供するフルマネージドの基盤モデル（Foundation Model）サービスです。複数のAIプロバイダーの主要LLMをAWS統一APIで利用できるため、インフラ管理なしにエンタープライズグレードのセキュリティ・スケーラビリティ・コンプライアンスを備えたAIアプリケーションを構築できます。

利用可能なモデルとして、(1)Anthropicシリーズ：Claude 3.5 Sonnet・Claude 3 Opus・Claude 3 Haiku（テキスト・Vision・ツール使用）、(2)MetaシリーズLlama：Llama 3・Llama 3.1（オープンソース）、(3)Mistral AIシリーズ：Mistral Large・Mistral 7B・Mixtral 8x7B、(4)Amazon Titanシリーズ：Amazon独自のテキスト生成・画像生成・埋め込みモデル、(5)Stability AI：Stable Diffusion XL（画像生成）、(6)Cohereシリーズ：Command・Embed（テキスト生成・埋め込み）があります。

主要機能として、(1)Bedrock Knowledge Bases：S3・Confluence・SharePoint・Salesforce等のデータソースから自動的に埋め込みを生成してベクターDBに保存し、RAGシステムをマネージドで構築、(2)Bedrock Agents：マルチステップタスクを自律的に実行するエージェントを構築。Lambda関数・API・ナレッジベースをアクションとして定義、(3)Guardrails for Amazon Bedrock：有害コンテンツフィルタリング・PIIマスキング・トピック拒否・グラウンディング検証をノーコードで設定してセーフガードを実装、(4)Model Evaluation：タスクに最適なモデルを選択するための自動評価フレームワーク、(5)Fine-tuning：独自データを使ったモデルのカスタマイズ（SFT）をマネージドで実施があります。

課金モデルはオンデマンド（トークン単位）とプロビジョンドスループット（時間単位の予約）の2種類で、大量・安定したワークロードにはプロビジョンドが有利です。VPC統合・AWS IAM・PrivateLinkによりデータがパブリックインターネットを通らない設計が可能で、金融・医療・公共機関等の厳格なコンプライアンス要件にも対応します。