「既にコードの80%がAI製」:Anthropicが直視する自律化の臨界点と止め方の設計
Anthropicのレポートによれば、同社のコードの8割以上がAIにより生成されており、開発の主導権が人間から離れつつある。同社はAIが自律的に自身を改良する「再帰的自己改善」の到来を警告し、業界全体で制御枠組みを構築すべきだと主張している。
別名: Recursive Self-Improvement
AIが自分自身の設計や学習アルゴリズムを書き換えることで、自らの能力を向上させること。向上した能力を用いてさらに効率的な改善を行うため、知能の向上が指数関数的に加速する可能性がある。Jared Kaplan氏はこのプロセスの全面解禁が2027年から2030年の間に重大な決断を迫るものになると警告している。
Anthropicのレポートによれば、同社のコードの8割以上がAIにより生成されており、開発の主導権が人間から離れつつある。同社はAIが自律的に自身を改良する「再帰的自己改善」の到来を警告し、業界全体で制御枠組みを構築すべきだと主張している。
元SalesforceのRichard Socher氏が率いるRecursive Superintelligenceは、AIが自らコードを書き換えて進化する「再帰的自己改善」を目指し、6.5億ドルの資金調達を実施した。同社はOpen-endednessのアプローチでAI研究を自動化し、将来的には創薬や物理学など科学全般の進歩を加速させる「自動化された科学者」の実現を目指している。
人類は今後数年のうちに、その運命を左右しかねない重大な岐路に立たされることになる。 生成AI開発の最前線を走る米Anthropicの共同創業者であり、首席科学者を務めるJared Kaplan氏は、英紙The Guard […]
2025年10月23日、科学誌『Nature』に投じられた一本の論文が、人工知能(AI)研究のコミュニティに静かな、しかし確実な衝撃を与えた。Google DeepMindの研究者らによるその報告は、AIが自ら「学習の仕 […]