
テクノロジー
AIに指示しても83%が忘れられる、コンテキスト圧縮という仕組みの落とし穴
ペンシルベニア州立大学の研究者が発表した論文「Lost in Compaction」は、AIのコンテキスト圧縮でユーザーの指示が平均83%消失することをCOMPINTベンチマークで実証した。Anthropic公式文書も自動的な指示保持を保証していない点を指摘する。
Alibaba Cloud(アリババクラウド)が開発する大規模言語モデル「通義千問(Qwen)」シリーズの最新世代。多言語対応や推論能力、コーディング能力において高い性能を示し、オープンソースコミュニティでも広く利用されている。AutoTTSの研究では、このモデルの複数のバリアントがバックボーンとして使用された。

ペンシルベニア州立大学の研究者が発表した論文「Lost in Compaction」は、AIのコンテキスト圧縮でユーザーの指示が平均83%消失することをCOMPINTベンチマークで実証した。Anthropic公式文書も自動的な指示保持を保証していない点を指摘する。

Anthropicがアリババによる大規模なモデル出力の不正抽出を告発した。数千万回のやり取りを通じてエージェント推論や高度な開発能力を盗用した疑いがあり、モデルの応答自体を訓練データとして奪い合うAI開発競争の激化と規約逃れの実態を浮き彫りにしている。

AutoTTSは、LLMの推論コストを削減するため、制御アルゴリズムの探索自体をAIに委ねるという発想で開発された。Claude Codeを探索エージェントとして活用し、わずか39.90ドルでトークン使用量を約70%削減するアルゴリズムを自律発見した。この低コストは、AIによるアルゴリズム発見が個人研究者やスタートアップにも開かれつつあることを示している。

フランスのAIスタートアップMistral AIが、新たなオープンソースLLM(大規模言語モデル)「Devstral」を公開した。240億パラメータという、近年の巨大モデルと比較すると軽量な設計でありながら、主要なソフト […]