Company

Groq

別名: Groq

groq.com

Overview

Groqは、大規模言語モデル(LLM)の推論を高速化するために設計されたLPU(Language Processing Unit)を開発するアメリカの半導体企業である。従来のGPUが持つ複雑なキャッシュ構造を排除し、決定論的な命令実行を可能にすることで、極めて低いレイテンシと高いスループットを実現している。Metaとの提携により、Llamaモデルのリアルタイムな音声対話やインタラクティブな応答を支えるインフラを提供している。

Mentioned Articles

9 件

External Mentions

10 件