欧州のデジタル銀行RevolutでAI運用を統括するDavid Abitbolが、2026年10月13日の「AI Engineer NYC 2026」で、約2,000人のエンジニアが利用するコーディングAIの運用実態を明らかにした。同社は中国Z.aiのオープンウェイトモデル「GLM」をNVIDIA B200 GPU約56基で自社ホストし、入出力を合算した平均単価を100万トークンあたり0.30ドルに抑えているという。さらに、AnthropicとOpenAIに支払っていた請求額と比べ、費用が約10分の1になったと説明した。注目すべきは、単純なモデルの置き換えだけでなく、GPUの運用最適化と課金方式の変更によって、AIの利用方法そのものが変わった点だ。ただし、GPUの調達費や運用人件費を含めた総コストは公表されておらず、「10分の1」という数字の比較条件には注意が必要である。

AD

GeminiからGLM-5.3へ、Revolutが自社ホストに切り替えた理由

Abitbolが登壇したのは、10月12〜14日に開催されたAI Engineer NYC 2026のセッション「Shipping like a startup, regulated like a bank」だ。約15分の講演では、専用GPUを使ったオープンウェイトモデルの自社ホストについて説明した。Revolutは80万人ではなく8,000万人の顧客を抱え、40以上の市場で事業を展開する大手デジタル銀行である。

同社が社内に初めてAIを導入したのは2025年1月で、当初はGoogleのGeminiを採用した。これにより、社内の非公開データをAIで扱えるようになったという。翌2月にはAnthropicのClaude Codeを試験導入したが、当時は費用に見合う効果が得られず、エンジニアごとに厳しい予算上限を設けていた。Claude Codeが限定的なリサーチプレビューとして公開されたのは2025年2月24日で、講演者の説明とも時期が一致する。

従量課金のAPIでは、利用が増えるほど費用も膨らむ。予算上限に近づくと、エンジニアは重要な作業のためにトークンを節約せざるを得なかった。そこでRevolutは、より低コストでAIを広く利用できる環境を目指し、2026年4月にZ.ai（旧Zhipu AI）の「GLM-5.1」を自社ホストし始めた。講演時点では「GLM-5.3」に移行しており、オープンウェイトモデルを標準としながら、Claude CodeやCodex、Geminiなどのフロンティアモデルは例外的に使う方針となっている。

導入の経緯は以下のとおりだ。

時期 出来事
2025年1月 Geminiを社内導入
2025年2月 Claude Codeの試験利用を開始
2026年4月 GLM-5.1の自社ホストを開始
2026年8月 最初のトークンが返るまでの時間を約1.6秒に短縮
2026年10月13日 GLM-5.3の運用状況をAI Engineer NYC 2026で公表

Hugging Faceの記録では、GLM-5.1のリポジトリは2026年4月3日に作成され、MITライセンスで公開されている。一方、GLM-5.3のリポジトリ作成日は8月25日だ。講演によれば、現在は約56基のB200で2,000人のエンジニアにGLM-5.3を提供している。ただし、以前AnthropicとOpenAIに支払っていた費用について、比較対象となるモデルや期間、利用量は明らかにされていない。

GPUを増やさず応答開始を14.26秒から1.68秒に短縮

Revolutが重視する性能指標は、リクエストを送ってから最初のトークンが返るまでの時間（TTFT：Time to First Token）だ。Abitbolによると、目標は3秒未満で、5秒を超えると社内のSlackに苦情が殺到するという。一方、生成速度の優先順位は比較的低い。通常の対話的な利用では毎秒200トークン程度で十分であり、利用者が減る午後5時以降には毎秒800トークン程度の生成速度が得られると説明した。

2026年4月の運用開始当初は、毎秒約3リクエストの負荷で応答開始まで10秒以上かかっていた。しかし8月には、毎秒7リクエストを超える負荷を処理しながら、応答開始までの時間を約1.6秒に短縮した。この期間にGPU台数は増やしていないという。主催者のセッション解説によると、講演スライドではリクエスト数が76%増加する一方、TTFTは14.26秒から1.68秒へ約88%短縮されたと示されている。

ただし、リクエスト数については口頭説明とスライドの数値が一致しない。毎秒3リクエストから7リクエスト超への増加であれば、増加率は133%を超えるためだ。口頭の数値が概数だったのか、76%という数字に別の集計条件があるのかは不明である。主催者も機械書き起こしに誤りが含まれる可能性を注意書きしている。それでも、同じGPU台数でより多くのリクエストを短い待ち時間で処理できるようになった点は、両方の説明に共通している。

性能改善のために調整した項目は、主に以下の5つだ。

  • コンテキスト長の制限： 最大100万トークンを扱える場合でも、実際の用途には256Kトークンで十分と判断し、不要なメモリ消費を抑える。
  • FP4量子化： Blackwell世代のGPUではFP4を利用し、FP8と比較して必要なGPU資源を約40%削減できると説明。精度は低下しないと主張したが、評価データは示していない。
  • テンソル並列の調整： GLMのモデル本体はGPU4基に分割するTP4に収まるが、KVキャッシュの容量が不足する場合はTP8を選択する。
  • キャッシュの積極的な利用： コーディング用途では、入力内容の再利用によるキャッシュヒット率を90%超にする必要があると説明。
  • 推論処理の最適化： 投機的デコーディングや、入力を処理するプリフィルとトークンを生成するデコードの分離を検討する。

特に重要なのが、FP4量子化とテンソル並列の組み合わせだ。Hugging Faceによると、GLM-5.3の総パラメーター数は約7,533億で、GLM-5.1の約7,539億とほぼ同じ規模である。FP4では1パラメーターを0.5バイトで表すため、モデルの重みだけで約377GBが必要になる。FP8なら約753GBとなり、必要なメモリ容量はほぼ倍増する。

B200のGPUメモリは1基180GBで、TP4では合計720GBを利用できる。FP4のモデル重みを配置すると約343GBが残るが、ここにはKVキャッシュや実行時の作業領域も確保しなければならない。KVキャッシュは入力されたトークンの中間計算結果を保持する領域で、コンテキストが長くなったり、同時リクエスト数が増えたりすると容量を消費する。

一方、TP8では8基で1,440GBのGPUメモリを利用でき、モデル重みを除いて約1,063GBが残る。56基のB200をTP4で構成すれば14組、TP8なら7組となるため、TP8は並列に配置できるモデルの組数が半減する代わりに、各組のKVキャッシュ容量を大幅に増やせる。単純計算でクラスタ全体のKVキャッシュ向け空き容量もTP4の約4.8TBからTP8の約7.4TBに増える。この概算は量子化の付帯データや実行時のオーバーヘッドを除いたもので、実際のRevolutの構成を示すものではない。

Abitbolが「モデルはTP4に収まるが、KVキャッシュのためにTP8が有利になる場合がある」と説明したのは、このメモリ容量の違いによるものだ。コンテキスト長を256Kに制限する判断も、KVキャッシュの消費を抑える効果がある。ただし、Revolutが公式のFP4版を利用しているのか、独自に量子化したのか、実際の並列構成がどうなっているかは公表されていない。また、4月から8月の最適化がGLM-5.1とGLM-5.3のどちらを対象に行われたのかも明らかではない。

AD

コーディング時間60%、開発リードタイム70%改善の背景

Abitbolは、約2,000人のエンジニアを対象とした過去1年間の社内データも紹介した。分析では、実装作業に費やした「コーディング時間」と、開発に着手してからコードがマージされ、デプロイ可能になるまでの「リードタイム」を測定している。

Gemini導入後にはコーディング時間が20%、リードタイムが10%改善したという。Abitbolは、Stack Overflowや技術文書を調べる時間が減ったことを理由に挙げた。さらに、2026年4月にGLM-5.1の自社ホストを始めた時点では、コーディング時間が60%、リードタイムが70%改善したと説明した。

リードタイムの改善幅がコーディング時間を上回ったことについて、Abitbolは開発のボトルネックが必ずしもプログラミング作業そのものではないと指摘する。AIはメール対応やJira、Confluenceでの作業にも利用でき、開発に付随する業務の効率化にも役立つという。

ここで大きな役割を果たしたと考えられるのが、課金方式の変更だ。従量課金では、エンジニアが予算を意識してAIの利用を控える傾向があった。しかし、自社ホストによって請求額が定額になったことで、Abitbolが言うように「四半期末や難しいタスクのためにトークンを取っておく」必要がなくなった。結果として、コード生成だけでなく、日常的な開発業務にもAIを使いやすくなったという。

ただし、これらの改善率をGLMへの移行による効果と断定することはできない。同時期にはモデルの変更に加え、予算制限や利用方針も変わっており、エンジニアの習熟なども影響した可能性がある。改善率が導入前からの累積値なのか、直前の段階との比較なのかも示されていない。対照群やサンプルの選定方法も公表されていないため、講演から確認できるのは、GLM-5.1の導入時期と開発指標の大幅な改善が重なっていたという事実までだ。

中国製AIモデルを銀行で運用するためのセキュリティ対策

規制の厳しい銀行が中国製AIモデルを採用することについて、Abitbolはデータの取り扱い方法が重要だと説明した。Revolutは中国にある推論APIを利用するのではなく、公開されたモデルの重みを取得し、米国のサービス上で実行しているという。このため、中国のサービスに社内データを直接送信する構成ではない。ただし、GPUの設置国や実際のサービス提供事業者は明らかにしていない。

同社では、コーディングAIを完全自律型のエージェントとして運用せず、常に人間が介在する仕組みを採用している。具体的には、サンドボックスで許可する操作を制限し、コード検索に使うgrepは認める一方、ビルドツールのgradleは許可しないといったルールを設けている。Abitbolは、こうした制約によってAIの自律的な操作を制限していることを規制当局に説明できると述べた。サンドボックスは社内での不正利用を防ぐ目的もあり、プロンプトインジェクションへの対策も継続しているという。

データの保存先については、米国、EU、英国、イスラエルのいずれかであれば問題なく、必要なGPUも調達できるとの見解を示した。ただし、EUの個人データ保護制度では、国外へのデータ移転が一律に認められるわけではない。欧州委員会の十分性認定には英国とイスラエルが含まれるが、米国についてはEU-US Data Privacy Frameworkに参加する商業組織など、適用条件がある。

Abitbolによれば、推論サービスは原則としてデータを保持しない設定とし、障害調査のためにOpenTelemetryによる監視を充実させている。画像処理が必要な場合は、OpenCodeなどのローカルルーターからGeminiなどの別モデルへ振り分ける。通常のテキスト処理はGLMに任せ、視覚機能にはGLMのFlash版も利用する構成だという。Z.aiは「GLM-5.3-Flash」をGLM-5系列初のネイティブマルチモーダルモデルと説明しているが、講演で言及されたFlash版の正確な型番は書き起こしから確認できない。推論サービスはResponses APIに対応するOpenAI互換APIを通じて提供され、OpenCodeやCodexアプリから利用できるとしている。

一方、GLMを商用利用する際にはライセンスにも注意が必要だ。GLM-5.1はMITライセンスだったが、GLM-5.3には独自の「GLM-5.3 License」が適用される。このライセンスは使用、改変、再配布を認める一方、モデル提供事業（Model as a Service）を営む企業とその関連会社の合算売上が、連続する12か月で100億ドル（約1兆5,790億円）を超える場合、商用利用前にZ.aiのセキュリティ審査を受けるよう求めている。

モデル提供事業とは、第三者が入力やパラメーター、学習データを実質的に制御できる形で、APIなどを通じて推論や微調整を提供する事業を指す。ただし、特定の機能にモデルを組み込んだエンドユーザー向け製品や、他社がホストするモデルへのリクエストを単に中継するサービスは、この定義から除外されている。Revolutのような社内エンジニア向けの利用がモデル提供事業に該当するかどうかについて、講演では説明されていない。

AD

100万トークン0.30ドル、請求額10分の1の実態と限界

Abitbolが示した費用面の数字は、入出力を合算した平均単価が100万トークンあたり0.30ドルであることと、AnthropicとOpenAIに支払っていた請求額が約10分の1になったことの2つだ。0.30ドルは、日本円では約47円に相当する。換算には、欧州中央銀行が2026年11月2日に公表した参照レート（1ユーロ＝177.10円、1ユーロ＝1.1216ドル）から求めた1ドル約157.90円を使用した。

比較のため、2026年11月3日時点における主要モデルの公式API料金を以下に示す。単位はいずれも100万トークンあたりの米ドルで、講演当時の料金とは異なる可能性がある。

モデル・サービス 入力 キャッシュ入力 出力 備考
Revolut自社ホストGLM — — — 入出力合算の平均0.30ドル
Z.ai GLM-5.3 1.40ドル 0.26ドル 4.40ドル Z.ai公式料金
Claude Opus 5.5 4.00ドル 0.20ドル 20.00ドル Anthropic公式料金
GPT-6.1 Sol 2.00ドル 0.10ドル 10.00ドル OpenAI公式料金

Revolutの平均0.30ドルは、Z.aiがGLM-5.3に設定する通常の入力単価1.40ドル、出力単価4.40ドルを大幅に下回る。ただし、自社ホストの0.30ドルは入出力を合算した平均値であり、APIの入力・出力それぞれの単価と直接比較できる数字ではない。Z.aiのキャッシュ入力単価は0.26ドルで、自社ホストの平均単価に近い。コーディング用途では、共通する入力を再利用できる割合が高いため、キャッシュの利用状況次第でAPIの実効単価も大きく変わる。

また、Revolutが以前利用していたAnthropicやOpenAIのモデルは特定されておらず、表に挙げたClaude Opus 5.5やGPT-6.1 Solが比較対象だったとは限らない。入出力の割合やキャッシュ利用率も明らかになっていないため、公式APIと比較して具体的に何割安くなったのかを計算することはできない。

さらに重要なのが、請求額と総保有コスト（TCO）の違いだ。従量課金のAPIではトークン消費量に応じて請求が増えるが、自社ホストではGPUなどの計算資源を固定的に確保するため、処理能力の範囲内で利用が増えても費用が大きく変動しない。Revolutは同じGPU台数で処理量を増やしたと説明しており、この稼働率の改善もコスト削減に寄与した可能性がある。

しかし、約56基のB200を購入したのか、クラウドなどで賃借しているのかは不明だ。GPUの調達費、電力、冷却設備、インフラの管理費、運用人件費も開示されていない。加えて、「10分の1」の比較に使った期間とトークン消費量も示されていないため、単純な請求額の減少が同じ割合の総コスト削減を意味するとは限らない。

今回の事例で重要なのは、単に高価な商用AIモデルを安価な中国製モデルへ置き換えたことではない。Revolutは約56基のB200という固定的な計算資源を最適化し、2,000人規模のエンジニアに短い応答時間でAIを提供する環境を構築した。さらに、従量課金による利用制限を緩和したことで、コーディング以外の業務にもAIを活用しやすくなったという。

一方、こうした成果がほかの企業でも再現できるかは、利用規模やGPUの調達条件、運用体制によって異なる。Revolutの事例が示すのは、自社ホストによるコスト削減の可能性だけでなく、AIの利用を抑制する従量課金から、計算資源を効率的に使い切る運用への転換である。 その経済的な優位性を正確に評価するには、GPUや人件費を含む総コストと、同じ利用条件でのAPI料金を比較する必要がある。