大規模言語モデル（LLM）の推論やサービングを効率化するために設計されたプログラミング言語およびランタイム。Googleの第8世代TPUエコシステムにおいてネイティブにサポートされている。
Thinking Machines Labは、従来のAI音声会話が抱えていた非効率な「トランシーバー式」のボトルネックを解消するため、「インタラクションモデル」を発表した。このモデルは、時間軸を根幹アーキテクチャに組み込み、200ミリ秒単位で入出力を連続処理する全二重通信により、人間のような自然な会話と即時応答を実現する。さらに、対話維持に特化した「インタラクションモデル」と、深い推論を非同期で行う「バックグラウンドモデル」に分割することで、応答性と知性を両立させている。
Googleは、AIエージェントの台頭によるインフラ要求の変化に対応するため、第8世代TPUで学習特化の「TPU 8t」と推論特化の「TPU 8i」という2つの独立したチップを導入した。これにより、フロンティアモデルの学習時間短縮と低遅延推論を実現し、用途特化によるパフォーマンスと電力効率の最大化を追求している。
AIエージェントとやり取りする際、我々が発する些細なフィードバックや、システムが返すエラーメッセージは、次のアクションのためのコンテキストとして消費された直後、文字通り虚空へと消え去っている。「そこは違う」「もっと親しみ […]
2026年1月20日、中国の有力AI企業であるZhipu AI（Z.ai）は、オープンソースとオープンサイエンスの精神を掲げ、既に発表していた新たな言語モデルシリーズ「GLM-4.7」に続き、その軽量版である「GLM-4 […]
