テクノロジー
Google、H100で毎秒1,000トークン超を実現する拡散言語モデル「DiffusionGemma」をリリース
Google DeepMindが公開した拡散方式テキスト生成モデル「DiffusionGemma 26B」は、256トークンの一括処理によりGPUの並列演算能力を最大限に活用し、H100で1,000 tokens/sec超を達成。量子化時18GB VRAMで動作し、同サイズの自己回帰型Gemmaモデル比で最大4倍速いローカル推論向けの実験的オープンモデルだ。
Tech Product
MLX
別名: MLX
Overview
最終更新: 2026年7月9日Appleのチップ（M1/M2/M3/M4等）の性能を最大限に引き出すために設計された、NumPyライクなAPIを持つ機械学習ライブラリ。ユニファイドメモリを効率的に活用できる。
Mentioned Articles
4 件
テクノロジーGoogle、Gemma 4向けに推論速度を最大3倍向上させるMTP(Multi-Token Prediction)ドラフトモデルを公開
Googleは、Gemma 4の推論を最大3倍高速化するMulti-Token Prediction対応ドラフトモデルを公開した。このモデルは、投機的デコード技術によりトークン生成と検証を分離し、VRAM帯域幅のボトルネックを解消することで、エッジデバイスやローカルPCでの推論品質を低下させることなく大幅に改善する。
テクノロジーGoogle「FunctionGemma」が告げるエージェントAIの民主化：なぜ270Mの超軽量モデルが「スマホの頭脳」を変えるのか
Googleは同社の軽量言語モデルファミリー「Gemma」の最新ラインナップとして、「FunctionGemma」をリリースした。 パラメータ数わずか2億7000万（270M）という、現代のLLM（大規模言語モデル）の基 […]
テクノロジーApple、iPhone上で導入されると見られるオープンソースの軽量言語モデル「OpenELM」をリリース
Appleは本日新たなAIモデルを公開したが、この動きはこれまでの噂にあった、AppleのAI戦略が“オンデバイスでのAI処理”に軸足を置いた物であることを裏付ける物だ。 4つのオープンソースモデルの公開 Appleは、 […]
External Mentions
10 件- arXivBaseRT: Best-in-Class LLM Inference on Apple Silicon via Native Metal
- arXivKnowledge Distillation from Large Reasoning Models to Compact Student Models: A Case Study on the John O Bryan Mathematics Competition
- arXivA Controlled Study of Memory Hierarchy Transitions in Quantum Circuit Simulation on Apple M4 Pro Unified Memory Architecture
- arXivBenchmarking System Dynamics AI Assistants: Cloud Versus Local LLMs on CLD Extraction and Discussion
- arXivStatistical Properties of the King Wen Sequence: An Anti-Habituation Structure That Does Not Improve Neural Network Training
- arXivStatistical Properties of the King Wen Sequence: An Anti-Habituation Structure That Does Not Improve Neural Network Training
- Hacker NewsOllama is now powered by MLX on Apple Silicon in preview
- arXivCorrecting Suppressed Log-Probabilities in Language Models with Post-Transformer Adapters
- arXivCross-Family Speculative Decoding for Polish Language Models on Apple~Silicon: An Empirical Evaluation of Bielik~11B with UAG-Extended MLX-LM
- Hacker NewsMy iPhone 16 Pro Max produces garbage output when running MLX LLMs