説明

生成モデルは提供された入力のように出力を生成する傾向があるため、モデルに対して特定の種類の情報を明らかにするようにプロンプトを出すことができます。 例えば、プロンプトに個人情報を追加すると、出力に同様の種類の個人情報が生成される可能性が高くなります。 モデルのトレーニングの一部として個人データが含まれていた場合、それが明らかになる可能性があります。

親トピック: AI リスク・アトラス

財団モデルのリスクの多くを説明するために、報道で取り上げられた例を提供する。 報道されたこれらの出来事の多くは、現在も進行中であるか、あるいは解決済みであり、それらを参照することは、読者が潜在的なリスクを理解し、軽減策を講じるのに役立つ。 これらの例を強調するのは説明のためである。