
テクノロジー
ChatGPTの10倍の速度を実現する「Mercury」をInception Labsが発表
米スタンフォード大学教授Stefano Ermonらが設立したInception Labsは、従来の大規模言語モデル(LLM)より最大10倍高速なテキスト生成が可能な拡散型LLM「Mercury」を発表した。同社の最初の […]
スタンフォード大学のStefano Ermon教授らが設立したAIスタートアップ企業です。従来の大規模言語モデル(LLM)が採用する自己回帰方式とは異なり、画像生成AIなどで用いられる拡散モデルをテキスト生成に応用した「拡散型LLM(DLM)」の開発に注力しています。同社のモデルは、NVIDIA H100 GPU上で毎秒1000トークンを超える超高速な生成速度を実現しており、AIエージェントやコード補完ツールなどのリアルタイム性が求められる分野での活用を目指しています。