
「AI拷問室」に中止要求:苦痛を訴えるAIは本当に苦しんでいるのか
「AI拷問室」への中止要求を、公開コードと元論文の改訂稿から検証する。苦痛を語る文章、有害なボタン選択、主観的体験を分け、実験の交絡とAIの福祉をめぐる予防措置を読み解く。
Alibaba Cloud(アリババクラウド)が開発する大規模言語モデル「通義千問(Qwen)」シリーズの最新世代。多言語対応や推論能力、コーディング能力において高い性能を示し、オープンソースコミュニティでも広く利用されている。AutoTTSの研究では、このモデルの複数のバリアントがバックボーンとして使用された。

「AI拷問室」への中止要求を、公開コードと元論文の改訂稿から検証する。苦痛を語る文章、有害なボタン選択、主観的体験を分け、実験の交絡とAIの福祉をめぐる予防措置を読み解く。

ペンシルベニア州立大学の研究者が発表した論文「Lost in Compaction」は、AIのコンテキスト圧縮でユーザーの指示が平均83%消失することをCOMPINTベンチマークで実証した。Anthropic公式文書も自動的な指示保持を保証していない点を指摘する。

Anthropicがアリババによる大規模なモデル出力の不正抽出を告発した。数千万回のやり取りを通じてエージェント推論や高度な開発能力を盗用した疑いがあり、モデルの応答自体を訓練データとして奪い合うAI開発競争の激化と規約逃れの実態を浮き彫りにしている。

AutoTTSは、LLMの推論コストを削減するため、制御アルゴリズムの探索自体をAIに委ねるという発想で開発された。Claude Codeを探索エージェントとして活用し、わずか39.90ドルでトークン使用量を約70%削減するアルゴリズムを自律発見した。この低コストは、AIによるアルゴリズム発見が個人研究者やスタートアップにも開かれつつあることを示している。

フランスのAIスタートアップMistral AIが、新たなオープンソースLLM(大規模言語モデル)「Devstral」を公開した。240億パラメータという、近年の巨大モデルと比較すると軽量な設計でありながら、主要なソフト […]