資料の 英語版 に戻る
AI の迅速なインジェクション・リスク
AI の迅速なインジェクション・リスク
説明
プロンプト・インジェクション攻撃は、プロンプトに含まれる構造または情報が原因で、モデルが予期しない出力を生成することを強制します。
ファウンデーション・モデルで迅速な注入が問題になるのはなぜですか?
注入攻撃を使用して、モデルの動作を変更し、攻撃者にメリットをもたらすことができます。 適切に管理されていないと、ビジネス・エンティティーは罰金、評判の悪さ、およびその他の法的結果に直面する可能性があります。
親トピック: AI リスク・アトラス