自律兵器システム

米中AI協議が核兵器合意の1年後に拡大へ、自律兵器とモデル暴走が新たな議題になった理由

米国と中国は、AIモデルの暴走や自律兵器、オープンソースAIの悪用といった「核領域の外側」のAIリスクを管理するため、公式協議の開始を検討している。両国は技術覇権争いの最中にあるが、意図せぬエスカレーションを防ぐ最小限のガードレールとして、AI危機通信ホットラインの開設を含む協議が注目されている。