Microsoftが先日発表した「Copilot+ PC」は、発表当初QualcommのSnapdragon Xチップを搭載したノートPCしかラインナップされていなかったが、NVIDIAの本日の発表によればQualcomm以外にもCopilot+ PCが登場するようだ。
NVIDIA RTX AI PCがまもなく登場し、「Copilot+ PC」機能をサポート
NVIDIAは本日のComputex 2024において、AsusとMSIから「RTX AI PC」ノートPCが発売され、これが最終的にCopilot+ PC機能を搭載することを発表した。
「ASUSとMSIから新たに発表されたRTX AI PCラップトップは、最大GeForce RTX 4070 GPUとWindows 11 AI PC機能を備えた電力効率に優れたシステム・オン・ア・チップを搭載しています」と、NVIDIAはブログ投稿で述べている。なお、NVIDIAはThe Vergeの取材に対し、RTX AI PCがAMDの最新のStrix Point APUを搭載する事も明らかにしている。
そして、最終的に「これらのWindows 11 AI PCは、利用可能になり次第、Copilot+ PCエクスペリエンスに無料でアップデートされます」とのことだ。
NVIDIA RTX AIツールキットとNVIDIA AIM SDKは、AI体験をより速く、より良いものにする
NVIDIAはRTX AI Toolkitも発表した。これは、開発者がWindows PC向けに大規模な生成AIモデルを最適化して展開できるようにするRTX AI PC上でのモデルのカスタマイズ（QLoRa）、最適化（TensorRT Model Optimizer）、デプロイメント（TensorRT Cloud）のための一連のツールとSDKが含まれ、6月に利用可能になる予定だ。
新しいRTX AI Toolkitにより、開発者はモデルを4倍速く、3倍小さなパッケージでデプロイできるようになり、ロールアウトプロセスが加速し、ユーザーに新しい体験をより早く提供できるようになる。標準的な「汎用」モデルとRTX AI Tooklit最適化モデルの比較も紹介されている。GPモデルはRTX 4090上で動作し、17GBのVRAMを必要としながら48トークン/秒を出力する。一方、RTX 4050 GPU上で動作するRTX AIツールキット最適化モデルは、わずか5GBのVRAMを必要としながら、ほぼ4倍の187トークン/秒を出力することができる。
RTX AI Toolkitは、Adobe、Blackmagic Design、Topazなどのソフトウェアパートナーにも活用されており、最も人気のあるクリエイティブアプリケーションのいくつかにそのコンポーネントを統合している。
また、新しいNVIDIA AI Inference Manager（AIM）SDKも展開されており、これはPC開発者向けの合理化されたAIデプロイメントTooLKITとなる。AIMは開発者に以下を提供する：
- すべてのバックエンド（NIM、DML、TRTなど）とハードウェア（クラウド、ローカルGPUなど）用の統合推論APU
- PCとクラウド推論のハイブリッドオーケストレーションとPCの能力チェック
- PC上でモデルとランタイム環境のダウンロードと設定
- ゲームパイプラインへの低レイテンシー統合
- CUDAとグラフィックスの同時実行
NVIDIA AIM SDKは現在アーリーアクセスが可能で、GPU、CPU、NPUを問わず、TensorRT、DirectML、Llama.cpp、PyTorch CUDAといった主要な推論バックエンドをすべてサポートしている。
また、NVIDIAのデジタルヒューマン向けプラットフォームであるACEに関するアップデートも行われた。ACEは、NIM推論マイクロサービスとともに初めてRTX PCに登場する。NIMは、音声理解、音声合成、フェイシャル・アニメーション用のモデルのローカル実行を可能にする。また、新しいACE推論マイクロサービスは、ACEモデルのデプロイメント時間を数週間から数分に短縮している。
NVIDIAはまた、ACE（アバター・クラウド・エンジン）が一般的にクラウドで利用できるようになり、GenAIアバターの未来への道を開いたと発表した。
その他のニュースとしては、Windows Copilot Runtimeにおける小規模言語モデルのGPUアクセラレーションに関するMicrosoftとの協業や、クリエイターやビデオ編集向けのアプリにおけるRTXアクセラレーションによる新しいAI機能がある。また、Stable Diffusion用の人気ツールComfyUIの最適化バージョンや、RTX Remix改造ワークフロー用のオープンソースSDKも含まれる。
これらの新機能は、RTX PCおよび新たに発表されたRTX 4000シリーズ以上のRTXノートPC向けに6月から提供される予定だ。一部のツールはすでに利用可能で、他のツールは開発者向けプレビューとして年内に提供される予定となっている。
Sources
コメント