0 / 0
資料の 英語版 に戻る
AI の迅速なインジェクション・リスク

AI の迅速なインジェクション・リスク

入力に関連するリスク
推論
堅牢性
生成 AI の新機能

説明

プロンプト・インジェクション攻撃は、プロンプトに含まれる構造または情報が原因で、モデルが予期しない出力を生成することを強制します。

ファウンデーション・モデルで迅速な注入が問題になるのはなぜですか?

注入攻撃を使用して、モデルの動作を変更し、攻撃者にメリットをもたらすことができます。 適切に管理されていないと、ビジネス・エンティティーは罰金、評判の悪さ、およびその他の法的結果に直面する可能性があります。

親トピック: AI リスク・アトラス

生成 AI の検索と回答
これらの回答は、製品資料の内容に基づいて、 watsonx.ai のラージ言語モデルによって生成されます。 詳細