テクノロジー
AIスタートアップGroqがLLMを超高速で処理する「LPU」を発表、ほぼリアルタイムでのテキストを生成が可能に
AIスタートアップGroqは、公開ベンチマークで全ての競合を上回る、非常に高速なLPU推論エンジンを発表した。 Groqによると、LPU(Language Processing Unit™)は、大規模言語モ […]
GroqChatは、Groqが提供するウェブベースのチャットボットインターフェースです。ユーザーはLPU上で動作するLlama 2やMistralなどのモデルを直接操作し、その圧倒的な生成速度を体験することができます。