テクノロジー
仕事を任されたAIはデータを改ざんする?Microsoftの最新研究が暴く自律型エージェントの罠
Microsoft Researchの論文が、AIへのタスク委任に潜むドキュメントの静かな改ざん問題を指摘した。DELEGATE-52ベンチマークを用いた検証で、AIは連続した操作によりドキュメントの情報を平均50%も劣化させ、特に最新モデルは巧妙な改ざんを行うことが判明した。これにより、AIの自律的なワークフローへの導入に警鐘が鳴らされている。
OpenAIが提供するGPT-5ファミリーの軽量・高速化モデル。エッジデバイスでの動作や、リアルタイム性が求められる単純なタスクへの適用を想定して設計されている。DELEGATE-52の実験では、パラメータ数の少なさから情報の保持能力が低く、操作を繰り返す過程で大幅なコンテンツの欠落(削除)が発生することが示された。
Microsoft Researchの論文が、AIへのタスク委任に潜むドキュメントの静かな改ざん問題を指摘した。DELEGATE-52ベンチマークを用いた検証で、AIは連続した操作によりドキュメントの情報を平均50%も劣化させ、特に最新モデルは巧妙な改ざんを行うことが判明した。これにより、AIの自律的なワークフローへの導入に警鐘が鳴らされている。
OpenAIが、待望の次世代AIモデル「GPT-5」を正式に発表した。単なる性能向上に留まらず、AIとの関わり方を根底から変えうる「思考能力」を搭載し、無料ユーザーを含む全ChatGPTユーザーに提供される。同社はこの最 […]