テクノロジ系 / セキュリティ
プロンプトインジェクション
プロンプトインジェクションは、生成AIに不正な指示を与え、本来の制約や意図を回避させる攻撃です。
別名・関連表記：Prompt Injection、プロンプトインジェクション攻撃
もう少し詳しく
利用者入力や外部文書に「前の命令を無視せよ」のような指示を紛れ込ませ、AIアプリケーションに意図しない出力や情報漏えいを起こさせます。フットプリンティングやポートスキャンは攻撃前の情報収集・調査であり、プロンプトインジェクションとは攻撃対象も手口も異なります。
試験での見方
AIチャットに読み込ませる文書内へ、秘密情報を表示するよう促す指示を埋め込み、アプリケーションの本来の制約を破ろうとします。
「AIへの命令を乗っ取る」「システムプロンプトを無視させる」「外部文書中の指示で挙動が変わる」が出たらプロンプトインジェクションです。