
テクノロジー
AIに指示しても83%が忘れられる、コンテキスト圧縮という仕組みの落とし穴
ペンシルベニア州立大学の研究者が発表した論文「Lost in Compaction」は、AIのコンテキスト圧縮でユーザーの指示が平均83%消失することをCOMPINTベンチマークで実証した。Anthropic公式文書も自動的な指示保持を保証していない点を指摘する。
OpenAIがIH-Challengeデータセットの有効性を検証するために構築した内部モデル。従来のモデルと比較して、推論能力を維持したままプロンプトインジェクション耐性とシステム指示への忠実度(操縦性)が大幅に向上している。

ペンシルベニア州立大学の研究者が発表した論文「Lost in Compaction」は、AIのコンテキスト圧縮でユーザーの指示が平均83%消失することをCOMPINTベンチマークで実証した。Anthropic公式文書も自動的な指示保持を保証していない点を指摘する。

現在の巨大言語モデル(LLM)は、かつてないほど複雑なコンテキストの中で稼働している。初期のチャットボットのように単一のユーザーと一対一で対話する牧歌的な時代はとうに終わりを迎え、一つのタスクを実行する過程で、モデルは複 […]