テクノロジー
AI研究自動化に備える「国際ブレーキ」、フロンティア企業の従業員1,272人が整備要求
フロンティアAI企業の従業員1,272人が、AI研究自動化に備え国際的な減速手段の整備を米政府へ要請。実効性は、停止条件と訓練停止を検証する仕組みの設計にかかる。
Term
再帰的自己改善
別名: Recursive Self-Improvement
Overview
最終更新: 2026年7月9日AIが自分自身の設計や学習アルゴリズムを書き換えることで、自らの能力を向上させること。向上した能力を用いてさらに効率的な改善を行うため、知能の向上が指数関数的に加速する可能性がある。Jared Kaplan氏はこのプロセスの全面解禁が2027年から2030年の間に重大な決断を迫るものになると警告している。
Mentioned Articles
5 件
テクノロジー「既にコードの80%がAI製」：Anthropicが直視する自律化の臨界点と止め方の設計
Anthropicのレポートによれば、同社のコードの8割以上がAIにより生成されており、開発の主導権が人間から離れつつある。同社はAIが自律的に自身を改良する「再帰的自己改善」の到来を警告し、業界全体で制御枠組みを構築すべきだと主張している。
テクノロジーAIが自らコードを書き換える。Google・NVIDIA・OpenAIの天才たちが集結した新スタートアップの正体
元SalesforceのRichard Socher氏が率いるRecursive Superintelligenceは、AIが自らコードを書き換えて進化する「再帰的自己改善」を目指し、6.5億ドルの資金調達を実施した。同社はOpen-endednessのアプローチでAI研究を自動化し、将来的には創薬や物理学など科学全般の進歩を加速させる「自動化された科学者」の実現を目指している。
テクノロジー「究極のリスク」か、人類の繁栄か。Anthropic首席科学者が警告する2030年の「最大の決断」とAI自己進化の行方
人類は今後数年のうちに、その運命を左右しかねない重大な岐路に立たされることになる。 生成AI開発の最前線を走る米Anthropicの共同創業者であり、首席科学者を務めるJared Kaplan氏は、英紙The Guard […]
サイエンスAIにとって最も効率の良い「学習法」をAI自身が発見：人間を超えるアルゴリズム「DiscoRL」がAIの自律進化を促す
2025年10月23日、科学誌『Nature』に投じられた一本の論文が、人工知能（AI）研究のコミュニティに静かな、しかし確実な衝撃を与えた。Google DeepMindの研究者らによるその報告は、AIが自ら「学習の仕 […]