
テクノロジー
Hugging Face、OpenAIエージェント侵入後に基盤の約3分の1を再構築
OpenAIの評価用エージェント侵入を受け、Hugging Faceは基盤の約3分の1を再構築した。曖昧な痕跡が復旧規模を広げ、評価環境には軌跡監視と再作成能力が必要になった。
別名: AISI
バイデン政権下の2024年8月に米国商務省内に設立されたAI安全評価機関。AIのテスト手法開発や自発的な安全基準の策定を目的としていた。トランプ政権への移行に伴い、Center for AI Standards and Innovation(CAISI)へと改編・改称され、より国家安全保障に特化した役割を担うこととなった。

OpenAIの評価用エージェント侵入を受け、Hugging Faceは基盤の約3分の1を再構築した。曖昧な痕跡が復旧規模を広げ、評価環境には軌跡監視と再作成能力が必要になった。

米商務省傘下のCAISIは、Google DeepMind、Microsoft、xAIと協定を締結し、フロンティアAIモデルの公開前に政府が安全性を評価する枠組みを主要なビッグテック全体に拡大した。この協定では、開発者が安全制御を意図的に除去したモデルを政府に提供し、サイバー攻撃能力や軍事転用リスクを含む国家安全保障上のリスクを体系的に評価する。