ストラテジ系 / ビジネスインダストリ
ハルシネーション
ハルシネーションは、生成AIが事実に基づかない内容を、もっともらしい文章として出力してしまう現象です。
もう少し詳しく
生成AIは、学習したパターンから自然な文章を作るため、知らない情報でも断定的に答えてしまうことがあります。実在しない文献名、誤った日付、存在しない仕様などを作ることがあり、検索や一次資料での確認が必要です。単なる誤字ではなく、見た目は自然なのに内容が虚偽になり得る点が重要です。
試験での見方
AIに法律名を尋ねたところ、実在しない条文番号を根拠として示した場合、ハルシネーションが起きています。
生成AIの出力について、事実確認が必要、存在しない情報をもっともらしく生成する、という説明があればハルシネーションです。