テクノロジー
Anthropic、天井知らずの推論コスト削減のためDRAMレスAI推論チップ開発のFractileと交渉を開始
大規模言語モデルの推論コストが利益を圧迫する中、AnthropicはAI推論チップの自前調達を急いでおり、未製造の英国スタートアップFractileと交渉を進めている。Fractileは、プロセッサとメモリ間のボトルネックを解消するMemory Compute Fusionアーキテクチャを提案し、既存GPU比で25倍速くコスト10分の1の推論を目指している。
Tech Product
LPU
別名: Language Processing Unit, LPU
Overview
Language Processing Unitの略称。逐次的な処理が求められる大規模言語モデル（LLM）の推論に最適化されたプロセッサ。従来のGPUが使用するHBM（広帯域メモリ）の代わりに、チップ内に統合された高速なSRAMを使用することで、メモリ待ち時間を極限まで削減している。また、命令の実行タイミングをコンパイラが静的に管理する決定論的設計により、予測可能で超高速な応答速度を実現する。
Mentioned Articles
4 件-
-
テクノロジーNVIDIAとOpenAI、「1000億ドルの蜜月」に走る亀裂：推論チップを巡る覇権争いと戦略的デカップリングの深層
2025年9月、世界を驚かせたNVIDIAとOpenAIによる「1000億ドル（約15兆円）の巨額投資と10ギガワット規模のAIインフラ構築」という壮大な合意。AI時代の「黄金の同盟」と目されたこの計画が、発表からわずか […]
-
テクノロジーNVIDIA、AI推論の覇権へ：Groq資産を200億ドルで取得する「リバース・アクハイヤー」の衝撃
2025年12月25日、テクノロジー業界に激震が走った。AI半導体の絶対王者であるNVIDIAが、AI推論チップのスタートアップであるGroqの資産と人材を獲得するため、約200億ドル（約3兆円規模）という巨額の資金を投 […]
-
テクノロジーAIスタートアップGroqがLLMを超高速で処理する「LPU」を発表、ほぼリアルタイムでのテキストを生成が可能に
AIスタートアップGroqは、公開ベンチマークで全ての競合を上回る、非常に高速なLPU推論エンジンを発表した。 Groqによると、LPU（Language Processing Unit™）は、大規模言語モ […]
External Mentions
10 件- arXiv Distributed Near-Field Channel Estimation for U6G XL-MIMO Systems under Beam Squint
- arXiv Accelerating Sparse Linear Solvers with an Optical Laser Processing Unit
- arXiv AMMA: A Multi-Chiplet Memory-Centric Architecture for Low-Latency 1M Context Attention Serving
- arXiv Assessing System Capabilities and Bottlenecks of an Early Fault-Tolerant Bicycle Architecture
- Hacker News Lunar Flyby
- arXiv Coupler Position Optimization and Channel Estimation for Flexible Coupler Antenna Aided Multiuser Communication
- Hacker News Firefly ‘Blue Ghost’ lunar lander touches down on the moon
- Hacker News Luigi Mangione's account has been renamed on Stack Overflow
- Hacker News Scientists discover a cause of lupus, possible way to reverse it
- Hacker News Apple's apps bypass firewalls like LittleSnitch and LuLu on macOS Big Sur