
テクノロジー
「AIロボットは簡単に暴走する」:研究者がその危険性を警告
北京で驚異的な記録を出した人型ロボットのように、AI基盤モデルを搭載した機械は柔軟な判断が可能だ。しかし、言葉の巧みな誘導で安全策が突破され、物理的な危害を及ぼす危険性がある。文脈に依存するロボットの安全性に対し、現行法は未整備である。
別名: Foundation Model
膨大なデータセットを用いて事前学習された大規模なAIモデルを指す。特定の用途に限定されず、追加の学習(ファインチューニング)を行うことで、様々な専門的タスク(気象予測、テキスト生成、画像認識など)に高い精度で適応できる柔軟性が特徴。ChatGPTなどの大規模言語モデルもこの一種であり、気象分野では「Aurora」が地球システム全体の振る舞いを学習した基盤モデルとして位置づけられている。

北京で驚異的な記録を出した人型ロボットのように、AI基盤モデルを搭載した機械は柔軟な判断が可能だ。しかし、言葉の巧みな誘導で安全策が突破され、物理的な危害を及ぼす危険性がある。文脈に依存するロボットの安全性に対し、現行法は未整備である。

気候変動による異常気象が頻発する現代において、より正確で迅速な気象予測の重要性は増すばかりだ。そんな中、Microsoftとペンシルベニア大学らは、既存の天気予報システムをはるかに凌駕する新たなAIモデル「Aurora」 […]

Amazonは本日、音声対話型AIアプリケーションの開発を革新する新しい基盤モデル「Amazon Nova Sonic」を発表した。これまで別々だった音声理解と音声生成のプロセスを単一のモデルに統合したこのモデルは、従来 […]