セーフコンプリーション

AIモデルが、倫理的に問題のある質問や危険な話題に対して、単に「答えられません」と拒絶するのではなく、ユーザーの意図を汲み取りつつ安全な範囲で有益な情報を提供する能力。例えば、精神的な危機に瀕しているユーザーに対し、対話を打ち切るのではなく、適切な相談窓口を案内したり、共感を示しつつも危険な行動を助長しない応答を生成したりすることを指す。AIの「安全性」と「有用性」のバランスを高度に保つための技術概念。