テクノロジー
Google、Gemma 4に12B Unifiedを追加：RAM 16GBのローカル環境で音声・画像エージェントを動かす布石
Googleは、中規模のオープンモデル「Gemma 4 12B Unified」を公開した。単一のデコーダーのみで音声・画像・テキストを直接処理する設計が特徴であり、16GB程度のメモリを持つPCで高度なマルチモーダルエージェントを構築できる。
Term
Multi-Token Prediction
別名: MTP
Overview
従来の自己回帰型モデルが1ステップにつき1トークンを生成するのに対し、複数のトークンを並列的に予測することで、メモリ帯域幅のボトルネックを解消し、推論プロセスを高速化する技術。GoogleのGemma 4では、この手法を用いたドラフトモデルにより最大3倍の高速化を実現している。
Mentioned Articles
2 件
External Mentions
7 件- arXiv SurroundNEXO: Ego-Centric Metric Bridging for Spatially Consistent Geometry in Autonomous Driving
- arXiv Speaking the Language of Science: Toward a General-Purpose Generative Foundation Model for the Natural Sciences
- arXiv PIANO: Personalized Reranking via Information Aggregation Node for Music Search Optimization
- arXiv Data Augmentations for Data-Constrained Language Model Pretraining
- arXiv A Gradient Perspective on RLVR Stability and Winner Advantage Policy Optimization
- Hacker News Accelerating Gemma 4: faster inference with multi-token prediction drafters
- Hacker News Better and Faster Large Language Models via Multi-Token Prediction