
サイエンス
AIがAIアルゴリズムを自ら設計:Claude Codeが40ドルで発見した推論コスト7割削減の手法とは
AutoTTSは、LLMの推論コストを削減するため、制御アルゴリズムの探索自体をAIに委ねるという発想で開発された。Claude Codeを探索エージェントとして活用し、わずか39.90ドルでトークン使用量を約70%削減するアルゴリズムを自律発見した。この低コストは、AIによるアルゴリズム発見が個人研究者やスタートアップにも開かれつつあることを示している。
別名: SC
大規模言語モデルの推論精度を高めるためのデコード手法の一つ。同じプロンプトに対してモデルから複数の異なる推論パス(回答候補)をサンプリングし、それらの中で最も一貫性のある(多数を占める)回答を選択する。推論の多様性を活用することで正答率を高められるが、サンプリング数に比例して計算コストが増大する。

AutoTTSは、LLMの推論コストを削減するため、制御アルゴリズムの探索自体をAIに委ねるという発想で開発された。Claude Codeを探索エージェントとして活用し、わずか39.90ドルでトークン使用量を約70%削減するアルゴリズムを自律発見した。この低コストは、AIによるアルゴリズム発見が個人研究者やスタートアップにも開かれつつあることを示している。

Googleは、AIチャットボットGeminiに、過去の会話履歴を参照する新機能を追加した。この機能により、Geminiは以前の会話内容を記憶し、ユーザーはよりパーソナルで文脈に沿った応答を得られるようになる。 Gemi […]