テクノロジー
仕事を任されたAIはデータを改ざんする？Microsoftの最新研究が暴く自律型エージェントの罠
Microsoft Researchの論文が、AIへのタスク委任に潜むドキュメントの静かな改ざん問題を指摘した。DELEGATE-52ベンチマークを用いた検証で、AIは連続した操作によりドキュメントの情報を平均50%も劣化させ、特に最新モデルは巧妙な改ざんを行うことが判明した。これにより、AIの自律的なワークフローへの導入に警鐘が鳴らされている。
Term
バックトランスレーション
別名: 逆翻訳, Back-translation
Overview
最終更新: 2026年7月9日翻訳の品質を管理するための手法の一つ。元の言語（ソース）からターゲット言語へ翻訳されたテキストを、別の翻訳者が再び元の言語へと翻訳し直すプロセスを指す。DELEGATE-52ではこの概念を応用し、AIによるドキュメント編集（例：分割）の後に逆の編集（例：統合）を行わせ、元の状態に戻るかどうかでAIの知能の正確性を測定している。