定義
汎用のAIモデルを取得し、特定の組織独自のデータに対してさらに訓練するプロセス — 企業の専門用語、スタイル、ポリシー、または専門知識を教えること。結果として、その組織の特定の用途に対してより良いパフォーマンスを発揮するカスタマイズされたモデルが得られます。
なぜ重要か
ファインチューニングされたモデルには、企業の独自データがその重みに組み込まれています。攻撃者がファインチューニングエンドポイントまたは結果として得られたモデルへのアクセスを取得した場合、その独自情報を抽出したり、訓練プロセス中に隠れた悪意のある振る舞いを導入したりする可能性があります。