定義
クライアントアプリケーションと複数のAIモデルまたはプロバイダー間に位置する中央インフラストラクチャコンポーネント。リクエストをルーティングし、認証情報を管理し、セキュリティポリシーを実施します。エンタープライズ内のすべてのAIモデルトラフィックの単一制御ポイントとして機能します。
なぜ重要か
エンタープライズが数十のAIモデルとプロバイダーを同時に使用する場合、AIゲートウェイはガバナンスの重要なボトルネックとなります。使用状況を追跡し、レート制限を実施し、インジェクションについてプロンプトをスキャンし、1か所ですべてのインタラクションを監査できます。