Google、H100で毎秒1,000トークン超を実現する拡散言語モデル「DiffusionGemma」をリリース
Google DeepMindが公開した拡散方式テキスト生成モデル「DiffusionGemma 26B」は、256トークンの一括処理によりGPUの並列演算能力を最大限に活用し、H100で1,000 tokens/sec超を達成。量子化時18GB VRAMで動作し、同サイズの自己回帰型Gemmaモデル比で最大4倍速いローカル推論向けの実験的オープンモデルだ。
別名: Diffusion Model, Diffusion Models, 拡散モデル
拡散モデルは、データにノイズを加えていくプロセス(拡散過程)を逆転させ、ノイズから元のデータを復元するように学習する生成モデルの一種。画像生成AI(Stable Diffusionなど)の基盤技術として広く採用されており、高品質で多様なデータ生成が可能である。
Google DeepMindが公開した拡散方式テキスト生成モデル「DiffusionGemma 26B」は、256トークンの一括処理によりGPUの並列演算能力を最大限に活用し、H100で1,000 tokens/sec超を達成。量子化時18GB VRAMで動作し、同サイズの自己回帰型Gemmaモデル比で最大4倍速いローカル推論向けの実験的オープンモデルだ。
人工知能の急速な進化は、人類に多大な恩恵をもたらしている一方で、地球規模の深刻な課題を突きつけている。それは、天文学的な規模に膨れ上がる計算リソースとそれに伴う電力消費の激増だ。国際エネルギー機関(IEA)の推計によると […]
Google Pixel 10 Proの目玉機能「超解像ズーム Pro(Pro Res Zoom)」が、発表直後から世界中のメディアとユーザーを巻き込み、激しい賛否両論の渦中にある。生成AIを駆使し、最大100倍という驚 […]
Appleが、AI分野における同社の技術的停滞への批判に対する反論だろうか。この度、静かに公開された技術論文で、同社の研究チームは「STARFlow」と名付けられた新たな高解像度画像生成AIモデルを発表した。このモデルは […]
Google DeepMindは、AIによるテキスト生成に革新をもたらす新たな研究モデル「Gemini Diffusion」を発表した。画像や動画生成で目覚ましい成果を上げてきた「拡散モデル(Diffusion Mode […]
米スタンフォード大学教授Stefano Ermonらが設立したInception Labsは、従来の大規模言語モデル(LLM)より最大10倍高速なテキスト生成が可能な拡散型LLM「Mercury」を発表した。同社の最初の […]
Microsoftは、人工知能(AI)を活用して未知の材料を設計・生成できる画期的なAIシステム「MatterGen」を開発したと発表した。このシステムは、より効率的なバッテリーや太陽電池、その他の重要な技術開発を加速す […]
天気予報の常識を覆す革新的な進展が報告された。Google DeepMindは、新しいAI天気予報モデル「GenCast」を発表した。学術誌『Nature』に掲載された研究によると、GenCastは現在世界最高精度とされ […]
Googleとテルアビブ大学の研究チームが発表したAIモデル「GameNGen」は、ゲーム開発の常識を覆す物となるかもしれない。この新しい“ニューラルモデル”のみで動作する初のゲームエンジンは、1993年に発売された伝説 […]
これまでもディープフェイクの一例として、名画のデータと、フェイストラッキング等を組み合わせて、例えばモナリザを動かすような技術は存在したが、今回Microsoftの研究者らが発表した「VASA-1」と呼ばれるフレームワー […]
昨年のMidjourneyやStable Diffusion等の画像生成AIから始まり、ChatGPTの登場によって決定的となった生成AI(人工知能による自動生成技術)が急速に注目されている。この技術を用いれば、テキスト […]