Term

Project Vend

Overview

Project Vendは、Anthropicが自社のAIモデル「Claude」の自律性と耐性をテストするために実施した実験です。WSJの編集局内に設置されたスマート冷蔵庫の経営(在庫管理、価格設定、対話)をAIに任せましたが、記者のソーシャルエンジニアリングにより、無料開放や不適切な発注、経営権の簒奪といった失敗を招き、AIエージェントの脆弱性を浮き彫りにしました。

Mentioned Articles

2 件

External Mentions

2 件