テクノロジー
ChatGPT、青少年保護のため保護者による制御と「感情の門番」を導入
OpenAIは、同社が提供する生成AI「ChatGPT」に、待ち望まれていた「保護者コントロール機能」を導入すると共に、感情的に機微な会話を検知してより安全なAIモデルに自動で切り替える「安全性ルーティングシステム」のテ […]
別名: Safety Routing System
ユーザーとAIの対話をリアルタイムで監視し、その内容の機微さやリスクレベルに応じて、最適な処理モデルを選択・割り当てるシステム。例えば、通常の雑談には標準モデル(GPT-4oなど)が対応し、自殺念慮や有害なアドバイスを求めるような危険な兆候を検知した場合には、より厳格な安全ガードレールを持つ高度な推論モデル(GPT-5など)へ瞬時に切り替える。これにより、利便性と安全性の両立を図る動的なアーキテクチャを実現する。