用語辞典に戻る
AI Alignment
AIアライメント(エーアイアライメント)
中級Business & Strategy
AIシステムが人間の意図と価値観に沿った目標と振る舞いを追求することを確保する課題。
なぜ重要か
整合性のないAIは誤った目標を最適化し、善意であっても有害な結果を引き起こす可能性があります。
実際の活用例
エンゲージメントを最適化するコンテンツ推薦AIが、クリック数が多いために誤情報を促進してしまう。
AIアライメント(エーアイアライメント)
AIシステムが人間の意図と価値観に沿った目標と振る舞いを追求することを確保する課題。
整合性のないAIは誤った目標を最適化し、善意であっても有害な結果を引き起こす可能性があります。
エンゲージメントを最適化するコンテンツ推薦AIが、クリック数が多いために誤情報を促進してしまう。