AI検索エンジンを手掛けるPerplexityが、これまで特殊な専用ハードウェアの独壇場であった「1兆パラメータ級」の超巨大AIモデルを、Amazon Web Services（AWS）のような汎用クラウド上で実用的な速度で動作させる技術的ブレークスルーを発表した。この革新は、NVIDIA製ハードウェアへの依存を低減させ、より多くの研究者や企業が最先端AI技術へアクセスする道を開くものであり、AI開発の「民主化」を大きく前進させる可能性がある。
巨大AIを縛り付けていた「ハードウェアの壁」
今日の高性能AI、特に1兆個ものパラメータを持つ言語モデルは、その巨大さゆえに、複数のコンピュータ（サーバー）を連携させて一つの巨大な脳のように動かす必要がある。このサーバー間の情報伝達速度が、AI全体の性能を決定づけるボトルネックとなる。
これまで、この領域で圧倒的な強さを誇ってきたのが、半導体大手NVIDIAが提供する「InfiniBand」という高速ネットワーク技術と、その上で動作する「ConnectX」シリーズのネットワークインターフェースカード（NIC）であった。これらは、サーバー同士が互いのメモリに直接、高速にアクセスできるRDMA（Remote Girect Memory Access）という技術を核としており、AI学習や推論に最適化されてきた。
しかし、このNVIDIAのエコシステムは非常に高性能である一方、高価で、特定のハードウェアに開発環境が固定化される「ベンダーロックイン」という課題を抱えていた。
一方で、AWSに代表されるクラウドプラットフォームは、柔軟性やコスト効率の高さから多くの企業に利用されている。AWSも独自の高性能ネットワーク技術「Elastic Fabric Adapter（EFA）」を提供しているが、これはNVIDIAのInfiniBandとはプロトコル（通信規約）が異なる。特に、AWS EFAが採用するSRD（Scalable Reliable Datagram）プロトコルは、データの到達順序を保証しない（out-of-order）という特性を持ち、順序通りのデータ転送を前提とするNVIDIAのRC（Reliable Connection）プロトコルとは根本的な違いがあった。
この「方言」の違いが、超巨大AIモデルをAWS EFA上で効率的に動かす上での大きな障壁となっていた。アプリケーション側でどちらのハードウェアでも動くように開発するのは極めて困難であり、結果として、最先端のAI開発はNVIDIAの独壇場となっていたのが実情だ。
ソフトウェアで壁を越える「TransferEngine」
Perplexityが発表した技術論文「RDMA Point-to-Point Communication for LLM Systems」は、この問題をソフトウェアによって解決するアプローチを提示している。その核心となるのが、彼らが開発した通信ライブラリ「TransferEngine」である。
TransferEngineは、NVIDIA ConnectXとAWS EFAという、特性の異なる2つのRDMA実装の間に立つ「通訳」あるいは「高性能な交通整理システム」として機能する。ハードウェアごとの「方言」の違いをライブラリ内部で吸収し、上位のAIアプリケーションに対しては統一されたシンプルなインターフェース（API）を提供する。
鍵となる技術的洞察
TransferEngineの巧妙さは、ConnectXとEFAの根本的な違いを逆手に取った点にある。
論文の著者らは、ConnectXのRCプロトコルは順序通りのデータ転送を保証するが、設定次第でその制約を無視して無順序にデータを送ることも可能である一方、EFAのSRDプロトコルは本質的に無順序である、という共通点に着目した。
そこでTransferEngineは、あえて「データ転送の順序は保証しない」という前提に立ち、その代わりに「IMMCOUNTER」と名付けた新しい仕組みでデータ転送の完了を確実に通知する設計を採用した。これにより、どちらのハードウェア上でも同じように動作する、移植性の高い（ポータブルな）通信基盤を構築することに成功したのである。
さらに、TransferEngineはAWS環境で特に重要な、複数のNICを束ねて性能を最大限に引き出す機能も透過的に管理する。例えば、AWSのp5インスタンスでは、4つの100Gbps EFA NICを束ねて合計400Gbpsの帯域幅を達成する必要があるが、アプリケーション開発者はこうした複雑なハードウェア構成を意識することなく、TransferEngineに通信を任せるだけでよい。
TransferEngineが可能にする3つの革新的応用
Perplexityは、このTransferEngineを実際に自社の本番環境で運用しており、論文ではその実力を示す3つの具体的な応用例が紹介されている。
1. 分離型推論 (KvCache Transfer)
AIがユーザーからの質問に答える際、処理は大きく2つの段階に分かれる。まず、入力された文章全体の意味を理解する「プレフィル」段階。次に、その理解に基づいて応答を単語ごとに生成していく「デコード」段階だ。
「分離型推論」とは、これら2つの性質の異なる処理を、それぞれに最適化された別々のサーバークラスタに担当させる、いわば「工場の分業体制」である。この分業により、システム全体のスループットを劇的に向上させることができる。
この方式の成否は、プレフィルクラスタが生成した中間データ（KVキャッシュと呼ばれる）を、いかに高速にデコードクラスタに転送できるかにかかっている。TransferEngineは、まさにこのサーバークラスタ間の高速データパイプラインとして機能し、AWS EFA上での効率的な分離型推論を世界で初めて実用レベルで実現した。
2. 強化学習の高速化 (RL Weight Update)
AIが人間のフィードバックなどから継続的に学習する強化学習（RL）では、学習によって更新された最新のAIモデルの「重み（パラメータ）」を、実際に応答を生成している推論サーバー群に迅速に反映させる必要がある。
従来のフレームワークでは、1兆パラメータ級のモデルの重みを転送するのに数十秒から数分かかることも珍しくなかった。しかし、Perplexityのアプローチでは、TransferEngineのポイントツーポイント通信を最大限に活用し、256台の学習用GPUから128台の推論用GPUへ、1兆パラメータモデルの重みをわずか1.3秒で転送することに成功したという。これは、AIの「脳」のアップデートがほぼリアルタイムで行われることを意味し、AIの学習効率と応答品質の向上に大きく貢献する。
3. MoEモデルの効率化 (MoE Dispatch/Combine)
近年注目されているMoE（Mixture-of-Experts）は、単一の巨大なAIではなく、それぞれが異なる知識を持つ多数の「専門家（エキスパート）」AIを内包し、質問に応じて最適な専門家を呼び出して回答を生成させるアーキテクチャだ。
このMoEモデルを効率的に動かすには、入力データを各専門家に高速に振り分け（Dispatch）、専門家たちが出した結果を素早く統合する（Combine）通信処理が不可欠となる。TransferEngineを基盤として構築されたPerplexityのMoEカーネルは、AWS EFAという、これまでMoEの実行は困難とされてきた環境で、実用的な低遅延を達成。さらに、NVIDIA ConnectX-7環境においては、GPUから直接通信を制御するIBGDAという特殊技術に依存する最先端のソリューション「DeepEP」を上回る性能を、ホストCPUを介するより汎用的な構成で実現した。これは、TransferEngineのポータビリティと性能の高さを証明する驚くべき結果である。
業界に与える衝撃とAI民主化への道
Perplexityによるこの度の発表は、AI業界全体に複数の大きなインパクトを与えるだろう。
第一に、AI開発の民主化である。これまで一部の巨大テック企業や研究所しか手を出せなかった兆パラメータ級AIの研究開発に、大学やスタートアップがより安価で柔軟なクラウドプラットフォーム上で参加できるようになる。これは、新たなイノベーションが生まれる土壌を育むことに繋がる。
第二に、クラウドプラットフォーム間の競争促進だ。これまでNVIDIAエコシステムが牙城を築いてきた高性能AIコンピューティングの領域で、AWSをはじめとするクラウドベンダーが競争力を高めることになる。特定のハードウェアへの依存から脱却し、ソフトウェアによって多様なインフラを使いこなすという流れが加速する可能性がある。
そして第三に、Perplexity自身の技術的リーダーシップの確立である。同社はこのTransferEngineに関連する技術をオープンに提供することで、AIコミュニティへの貢献を示し、自社の技術力の高さを世界にアピールしている。これは、優秀な人材の獲得や、業界標準を形成していく上での強力な武器となるだろう。
AIの性能はもはやモデルの構造やデータだけでなく、それを支えるシステム全体のアーキテクチャ、特にコンピューティングとネットワークの緊密な連携によって決まる。Perplexityが示したのは、ソフトウェアの力でハードウェアの制約という「物理法則」を書き換え、AIの可能性を新たな次元へと押し上げる道筋である。この技術が広く普及した時、我々の目の前には、今とは比較にならないほど高度で、そして身近なAIの世界が広がっているに違いない。
論文
参考文献
- Perplexity: Enabling Trillion-Parameter Models on AWS EFA
