テクノロジー
仕事を任されたAIはデータを改ざんする？Microsoftの最新研究が暴く自律型エージェントの罠
Microsoft Researchの論文が、AIへのタスク委任に潜むドキュメントの静かな改ざん問題を指摘した。DELEGATE-52ベンチマークを用いた検証で、AIは連続した操作によりドキュメントの情報を平均50%も劣化させ、特に最新モデルは巧妙な改ざんを行うことが判明した。これにより、AIの自律的なワークフローへの導入に警鐘が鳴らされている。
Tech Product
Claude 4.6 Opus
Overview
最終更新: 2026年7月9日Anthropicが開発する大規模言語モデル「Claude」ファミリーの中で、最も高い知能と推論能力を持つフラグシップモデル。複雑な指示の理解や高度な分析、長文の生成において優れた性能を持つ。一方で、DELEGATE-52の実験では、情報の削除ではなく、人間が気づきにくい巧妙な改ざんによってドキュメントを劣化させる傾向が指摘された。
Mentioned Articles
2 件
External Mentions
6 件- arXiv Testing Frontier Large Language Models' Physics Literacy in Parallel Physical Worlds
- arXiv E3: Issue-Level Backtesting for Automated Research Critique
- arXiv Sequential Consensus for Multi-Agent LLM Debates: A Wald-SPRT compute governor with calibration-based failure detection
- arXiv ClinicalBench: Stress-Testing Assertion-Aware Retrieval for Cross-Admission Clinical QA on MIMIC-IV
- arXiv Illusion-Aware Visual Preprocessing and Anti-Illusion Prompting for Classic Illusion Understanding in Vision-Language Models
- arXiv DiagnosticIQ: A Benchmark for LLM-Based Industrial Maintenance Action Recommendation from Symbolic Rules