ストラテジ系 / ビジネスインダストリ
AI 利用者の関与によるバイアス
AIの入力、使い方、評価、フィードバックに利用者の偏りが入り、結果に偏りが生じること。
もう少し詳しく
AIのバイアスは学習データだけでなく、利用者の入力方法、選択した条件、評価データ、フィードバックにも影響されます。特定の属性や意見が過大・過小に反映されると、不公平な結果につながるため、運用時の人の関与も管理します。
試験での見方
利用者が特定の地域の顧客データだけを入力して需要予測を行い、全体市場に合わない予測や偏った施策になる。
AIの偏りはモデルだけの問題ではなく、利用者や運用プロセスでも起こる点を押さえます。入力・評価・フィードバックまで確認します。