
「命令」で不要な演算を物理的に止めるFPGA上のHW/SW協調設計
マルチタスク推論モデルで「今どのタスクを実行しているか」というコマンドを信号に、不要な演算タイルをFPGA上で物理的にスキップするHW/SW協調設計がMICRO 2026に採択された。FLOPsを最大76%削減しレイテンシを2.4倍短縮する一方、同じマスクがGPUでは22%の遅延を生む対比が、疎性活用のハードウェア要件を明確に示している。
Term
Mixture of Expertsとは、入力ごとに一部の専門家ネットワークだけを動的に選択・実行するニューラルネットワーク構造である。大規模言語モデルの総パラメータ数を増やしつつ推論コストを抑える手法として、DeepSeek-V4やKimi K3など最新のLLMで採用されている。
全 30 件 / 3 ページ

マルチタスク推論モデルで「今どのタスクを実行しているか」というコマンドを信号に、不要な演算タイルをFPGA上で物理的にスキップするHW/SW協調設計がMICRO 2026に採択された。FLOPsを最大76%削減しレイテンシを2.4倍短縮する一方、同じマスクがGPUでは22%の遅延を生む対比が、疎性活用のハードウェア要件を明確に示している。

MicrosoftがKimi K3のAzure提供とCopilot採用を評価していると報じられた。最大6億ドル削減の成否は、品質を保ったまま処理を振り分けられる割合で決まる。

MoonshotはKimi K3への需要増で新規契約を止め、既存会員を優先する。今後はWeb・アプリ・Work向けとコーディング向けに会員制度を分け、GPU容量の配分を見直す。

米Zyphraは、AMD Instinct MI300のみでフルスタック学習させた80億パラメータの推論モデル「ZAYA1-8B」を公開した。独自のアーキテクチャと推論時計算手法「Markovian RSA」により、大手モデルに匹敵する数理・コーディング性能を達成し、Apache 2.0ライセンスで商用利用を促進する。

Googleは、Gemma 4の推論を最大3倍高速化するMulti-Token Prediction対応ドラフトモデルを公開した。このモデルは、投機的デコード技術によりトークン生成と検証を分離し、VRAM帯域幅のボトルネックを解消することで、エッジデバイスやローカルPCでの推論品質を低下させることなく大幅に改善する。

DeepSeek-AIは、100万トークンのコンテキスト長を持つDeepSeek-V4シリーズのプレビュー版を公開した。DeepSeek-V4-ProとDeepSeek-V4-Flashは、それぞれ1.6兆と2840億のパラメータを持つMixture-of-Expertsモデルであり、長文推論のコスト効率を大幅に改善した。特に、Compressed Sparse AttentionとHeavily Compressed Attentionを組み合わせたハイブリッド注意機構により、1トークン推論FLOPsとKVキャッシュを大幅に削減し、大規模言語モデルの運用コスト低減に貢献する。

OpenAIは、テキスト中の個人識別情報(PII)をローカルで検出・マスクする「OpenAI Privacy Filter」を公開した。Apache 2.0ライセンスで提供され、クラウドに送る前のデータ処理に活用できるが、匿名化ツールや法令順守の証明にはならないため、高リスク用途での利用には注意が必要だ。

2026年2月11日、北京。中国のAIスタートアップの筆頭格であるZhipu AI(智譜AI、旧称:Knowledge Atlas Technology)は、最新の旗艦基盤モデル「GLM-5」を発表した。春節(旧正月)を […]

2026年1月、AI業界にまたしても中国からの巨大な波が押し寄せた。AlibabaやHongShan(旧Sequoia China)から巨額の支援を受けるMoonshot AI(月之暗面)が、最新のオープンソースモデル「 […]

2026年1月20日、中国の有力AI企業であるZhipu AI(Z.ai)は、オープンソースとオープンサイエンスの精神を掲げ、既に発表していた新たな言語モデルシリーズ「GLM-4.7」に続き、その軽量版である「GLM-4 […]

2026年1月、ラスベガスで開催されたCES 2026において、Phison Electronicsは、「aiDAPTIV+」テクノロジーの拡張版を発表した。同社はこれにより、高価なGPUメモリ(VRAM)の限界という、 […]

中国のAIスタートアップMoonshot AIが発表したオープンソースモデル「Kimi K2 Thinking」が、主要な性能ベンチマークでOpenAIのGPT-5やAnthropicのClaude Sonnet 4.5 […]