テクノロジー
仕事を任されたAIはデータを改ざんする？Microsoftの最新研究が暴く自律型エージェントの罠
Microsoft Researchの論文が、AIへのタスク委任に潜むドキュメントの静かな改ざん問題を指摘した。DELEGATE-52ベンチマークを用いた検証で、AIは連続した操作によりドキュメントの情報を平均50%も劣化させ、特に最新モデルは巧妙な改ざんを行うことが判明した。これにより、AIの自律的なワークフローへの導入に警鐘が鳴らされている。
Tech Product
Mistral Large 3
Overview
最終更新: 2026年7月9日フランスのAI企業Mistral AIが開発した、同社で最も強力なプロプライエタリ・モデル。多言語での高度な推論、コーディング、数学的タスクに最適化されている。DELEGATE-52の評価では、フロンティアモデル群の中ではドキュメントの劣化率が比較的高い結果となった。
Mentioned Articles
2 件
External Mentions
10 件- arXiv When the Database Fails: Prompting LLM Dialogue Agents for Safe Recovery in Task-Oriented Dialogue
- arXiv RoPoLL: Robust Panel of LLM Judges
- arXiv Closing the Activation-Cone Blind Spot: Response-Time Probing and Unified Defense
- arXiv A Layered Security Framework Against Prompt Injection in RAG-Based Chatbots
- arXiv Bayesian-Calibrated Detection of Hallucinated Package Imports in AI-Assisted Code
- arXiv Small LLMs for Biomedical Claim Verification: Cost-Effective Fine-Tuning, Structural Dataset Shortcuts, and Cross-Domain Generalization
- arXiv GTBench: A Curriculum-Grounded Benchmark for Evaluating LLMs as Mathematical Research Assistants in Graph Theory
- arXiv Citation Grounding: Detecting and Reducing LLM Citation Hallucinations via Legal Citation Graphs
- arXiv CRMA: A Spectrally-Bounded Backbone for Modular Continual Fine-Tuning of LLMs
- arXiv Hurwitz Quaternion Multiplicative Quantization for KV Cache Compression