テクノロジ系 / セキュリティ
AI に対する脅威
AIに対する脅威は、AIモデルや学習データ、推論結果を狙って誤動作や情報漏えいを起こすリスクです。
もう少し詳しく
AIを使うシステムでは、通常のサイバー攻撃に加えて、学習データの汚染、敵対的サンプル、モデル抽出、プロンプトインジェクション、機密データの推測などが問題になります。AIの出力を無条件に信用すると、誤判断や差別的結果、業務停止につながる可能性があります。
試験での見方
画像認識AIに微小なノイズを加えた画像を入力し、本来とは異なる分類をさせる攻撃はAIに対する脅威の一例です。
AIを守る話はSecurity for AI、AIを防御に使う話はAI for Securityです。攻撃対象がAIモデルや学習データならAIに対する脅威です。