アラインメント問題

AIシステムが人間の意図や倫理的価値観に従って行動することを保証するための技術的・倫理的課題を指す。AIの能力が向上するにつれ、システムが予期せぬ方法で目標を達成しようとしたり、人間の利益に反する行動をとったりするリスクを回避することが重要視されている。単一の目標だけでなく、複数のステークホルダー間の利益相反をどう調整するかという点も議論の焦点となっている。