プロジェクト・フリーダム

Anthropic、天井知らずの推論コスト削減のためDRAMレスAI推論チップ開発のFractileと交渉を開始

大規模言語モデルの推論コストが利益を圧迫する中、AnthropicはAI推論チップの自前調達を急いでおり、未製造の英国スタートアップFractileと交渉を進めている。Fractileは、プロセッサとメモリ間のボトルネックを解消するMemory Compute Fusionアーキテクチャを提案し、既存GPU比で25倍速くコスト10分の1の推論を目指している。