テクノロジー
Google、Gemma 4向けに推論速度を最大3倍向上させるMTP(Multi-Token Prediction)ドラフトモデルを公開
Googleは、Gemma 4の推論を最大3倍高速化するMulti-Token Prediction対応ドラフトモデルを公開した。このモデルは、投機的デコード技術によりトークン生成と検証を分離し、VRAM帯域幅のボトルネックを解消することで、エッジデバイスやローカルPCでの推論品質を低下させることなく大幅に改善する。
Tech Product
NVIDIA A100
別名: NVIDIA A100, A100
Overview
AI、データ分析、ハイパフォーマンスコンピューティング（HPC）向けに設計されたGPUです。マルチインスタンスGPU（MIG）機能を備え、リソースを細分化して効率的に利用することが可能です。
Mentioned Articles
10 件-
-
テクノロジーPCとスマホが「AIデータセンター」に変わる日：新技術「SpecEdge」がLLMの運用コストを7割も削減可能に
生成AI革命の裏側で、大きく問題視されるようになってきたのが「コスト」と「電力」だ。ChatGPTやClaudeといった最先端の大規模言語モデル（LLM）を稼働させるには、NVIDIA H100のような高性能かつ極めて高 […]
-
サイエンスNVIDIAチップを「100倍」凌駕する全光型AIチップ『LightGen』の開発に成功
2025年12月、中国の上海交通大学と清華大学の共同研究チームが、科学誌『Science』に発表した論文において、既存の常識を覆す次世代プロセッサの実証に成功したと報告した。その名は『LightGen』。 このチップは、 […]
-
テクノロジー元GoogleのTPU開発者率いる中国新興企業が独自チップ開発を発表：NVIDIA A100の1.5倍高速、42％の効率性を主張
世界的なAI半導体市場において、絶対的な王者として君臨するNvidia。しかし今、その牙城を崩そうとする動きが、太平洋の両岸で同時に進行している。一方ではGoogleが自社製チップ「TPU（Tensor Processi […]
-
テクノロジー米国の制裁をすり抜ける「闇の修理工場」、中国深圳でNVIDIA製AIチップ再生ビジネスが活況
米国の厳格な輸出規制によって、中国への供給が断たれたはずのNVIDIA製高性能AIチップ。しかし、その規制網を巧みにすり抜けるかのように、中国・深圳の喧騒の奥深くで、新たな「地下産業」が力強く脈動している。それは、密輸さ […]
-
テクノロジーNVIDIA、米規制下で中国向け廉価版Blackwell AIチップ「B40」投入か？ H20の半額以下、GDDR7採用で性能はかなり抑え気味
米国の厳格な輸出規制という逆風の中、半導体大手NVIDIAが中国市場向けに新たなAIチップを投入する計画であると、Reutersが報じている。最新のBlackwellアーキテクチャをベースとしつつも、性能と機能を大幅に絞 […]
-
テクノロジーTSMCがHuaweiの制裁回避疑惑を告発、AIチップ製造で米当局に通報
世界最大の半導体受託製造企業であるTSMCは23日、中国のHuaweiが米国の輸出規制を回避してAIチップを製造しようとした可能性があることを米商務省に通報したことを明らかにした。 TSMCが米商務省に警告、Huawei […]
-
テクノロジーTikTokの運営元ByteDance、独自AIチップ開発で米Broadcomと提携
TikTokの運営元である中国のByteDance社が、独自AIプロセッサーの開発のため、米国の半導体設計企業Broadcom社と提携したことをReutersが報じている。 米国からの制裁が続く中で米企業との提携に活路を […]
-
テクノロジーAIスタートアップGroqがLLMを超高速で処理する「LPU」を発表、ほぼリアルタイムでのテキストを生成が可能に
AIスタートアップGroqは、公開ベンチマークで全ての競合を上回る、非常に高速なLPU推論エンジンを発表した。 Groqによると、LPU（Language Processing Unit™）は、大規模言語モ […]
-
テクノロジーNVIDIAの次期GeForce RTX5000シリーズは2025年の発売になる予定
NVIDIAは、最新のMLPerfトレーニングベンチマークの8つのテストすべてで新記録を樹立し、生成AI向けの新しいMLPerfテストでも優れた結果を示した事を発表した。スタートアップのInflection AIが共同開 […]
External Mentions
10 件- arXiv HEPTv2: End-to-End Efficient Point Transformer for Charged Particle Reconstruction
- arXiv A performance portable fast Ewald summation for Stokes flow
- arXiv Not Your Usual FFT: QFT$\rightarrow$FFT via Classical Quantum-Circuit Simulation
- arXiv Mixed-Precision Communication-Avoiding SGD for Generalized Linear Models on GPUs
- arXiv Separable Neural Architectures as Physical World Models: from Mathematical Theory to Applications
- arXiv Domain-Adapted Small Language Models with Hybrid Post-Processing: Achieving Cost-Efficient, Low-Latency Multi-Label Structured Prediction via LoRA Fine-Tuning on Scarce Data
- arXiv Uncertainty-Aware Adaptive Sensor Fusion for Autonomous Navigation
- arXiv Color-gradient lattice Boltzmann modeling of wetting boundary condition on curved solid boundaries
- arXiv Memory-Bound but Not Bandwidth-Limited: The Physical AI Inference Gap in Batch-1 LLM Decode
- arXiv EarlyTom: Early Token Compression Completes Fast Video Understanding