人工知能（AI）、特にチャットボット技術の進化と社会実装は、日進月歩で進んでいる。顧客対応の自動化から社内業務の効率向上に至るまで、その活用範囲は多岐にわたる。しかし、その進歩の陰には、AIが事実に基づかない情報を生成する「ハルシネーション（幻覚）」や、予期せぬシステムエラーに起因する損害発生といった、看過できないリスクが潜んでいるのも事実だ。このような状況下、保険業界の世界的権威であるLloyd’s of London（以下、Lloyd’s）の引受会員（シンジケート）が、AIチャットボットなどが引き起こす経済的損失を補償するという、これまでにない画期的な保険商品の提供を開始したことが明らかになった。これは、AIの導入を積極的に進める企業にとって福音となるのか、あるいは新たな課題の序章となるのであろうか。

なぜ今「AI保険」なのか？頻発するチャットボットの「想定外」

企業が業務効率化や顧客満足度の向上を期待し、競って導入を進めているAIチャットボット。しかし、その高い期待とは裏腹に、AIの「想定外」の挙動による問題が後を絶たない。

記憶に新しい事例としては、カナダの航空会社Air Canadaのケースが挙げられる。同社の顧客対応チャットボットが、存在しないはずの割引を提供すると誤って案内。最終的に、裁判所はAir Canadaに対し、チャットボットが提示した割引料金での航空券提供を命じるという異例の事態に至った。もしこの時、Air Canadaが今回発表されたようなAI保険に加入していれば、割引によって生じた損失が補償された可能性があると、保険開発元は指摘している。

また、英国の金融機関Virgin Moneyでは、AI搭載チャットボットが顧客に対し、社名でもある「Virgin」という単語の使用を咎めるという、極めて気まずいやり取りが発生し、公式な謝罪に追い込まれる結果となった。さらに、国際宅配便大手のDPDでは、顧客対応ボットが顧客を罵倒した上に、自社を「世界最悪の配送会社」と酷評するという、企業にとっては悪夢のような事件も発生している。

これらの事例は氷山の一角に過ぎず、AI、特に大規模言語モデル（LLM）が時折見せる「ハルシネーション」や予測不能な動作は、企業の評判低下や直接的な経済損失に繋がりかねない重大なリスクとして、現実的な脅威となっているのである。こうした背景が、AIに起因する損害を専門的にカバーする保険商品の市場投入を後押ししたと言えるであろう。

Lloyd’s市場という独特なメカニズムと、Y Combinator支援のArmillaによる新保険

今回、大きな注目を集めているAI向け保険は、著名なスタートアップアクセラレーターであるY Combinatorの支援を受けるArmilla社によって開発された。そして、この保険の引受は、Lloyd’sという世界有数の保険市場に参加する複数のシンジケート（引受組合）が担うことになる。

ここで、Lloyd’s of London（ロイズ）の仕組みについて触れておく必要がある。Lloyd’sは単一の保険会社ではなく、専門的な保険引受業者（アンダーライター）とブローカーが集う「市場（マーケット）」である。ブローカーが顧客（企業など）から持ち込んだ保険契約のリスクを、複数のシンジケートがそれぞれの判断と専門性に基づき、分担して引き受けるというユニークな仕組みで運営されている。このシンジケートは、個人投資家や法人資本によって構成され、それぞれが独立した引受能力を持つ。Armillaが開発したこの新しい保険も、こうしたLloyd’sの伝統的かつ柔軟な枠組みの中で提供される。日本の漫画作品「MASTERキートン」の主人公である平賀＝キートン・太一がロイズの調査員として活躍していることから、「ロイズ」の名は耳にしたことがある人もいるかも知れない（筆者もその1人だ）

この保険の最大の特長は、AIツール、特にチャットボットなどのパフォーマンスが事前に期待された水準を下回った結果、企業が顧客やその他の第三者から訴訟を起こされた場合に発生する法的費用や損害賠償金などを補償する点にある。

Armilla社の最高経営責任者（CEO）であるKarthik Ramakrishnan氏は、「多くの企業が、チャットボットなどのAIツールが機能不全に陥ることへの懸念から導入を躊躇している。この新しい保険商品が、そうした企業のAI導入を後押しする可能性がある」と述べている。

しかし、単にAIがエラーを起こしたというだけでは、保険金支払いのトリガーとはならない。保険金が支払われるのは、AIのパフォーマンスが当初設定された期待値を下回ったと、保険会社（この場合は引受シンジケート）が客観的に判断した場合に限られる。具体的な例としてArmilla社が挙げるのは、当初95%の確率で正確な情報を顧客や従業員に提供していたチャットボットの精度が、運用開始後に85%まで低下してしまったようなケースである。Ramakrishnan CEOは、「我々はAIモデルを評価し、その性能劣化の確率を把握した上で、モデルが劣化した際に補償を行う」と説明している。

既存の技術賠償責任保険との差異：AI特有の「動的リスク」への対応

これまでも、一部の保険会社は一般的な技術エラー・アンド・オミッション（E&O）保険（技術専門職業賠償責任保険）の枠内で、AIに関連する損失をカバーするケースは存在した。しかし、これらの既存保険では、AI関連の賠償責任に対する支払い上限額が著しく低く設定されていることが一般的であった。例えば、全体で最大500万ドルの損失をカバーする一般的な保険契約であっても、AI関連の負債については2万5000ドルといった、非常に限定的な副次的限度額が設けられている場合があると、Armillaの商品を顧客に提供する保険ブローカー、Lockton社のPreet Gill氏は指摘する。

さらに重要なのは、AI言語モデルが固有に持つ「学習し、時間とともに変化する」という動的な性質である。この継続的な適応プロセスに起因するエラーや性能の変化による損失は、従来の静的なリスクを前提とした技術E&O保険では十分にカバーされないことが多いと、同じくLockton社のLogan Payne氏も述べている。今回のArmillaの保険は、まさにこのAI特有の「性能劣化」という、予測と管理が難しいリスクに特化した、より専門性の高いソリューションと言えるであろう。

引受側の慎重な姿勢と、AI導入加速への期待感

この新しいAI保険は、企業がより安心してAI技術を導入し、その恩恵を享受するための一助となる可能性を秘めている。しかし、リスクを引き受ける保険会社側も、この未知の領域に対しては慎重な姿勢を崩していない。

Armillaの保険商品を引受けるLloyd’sのシンジケートの一つであるChaucer社のパートナーシップ責任者、Tom Graham氏は、「他のいかなる保険引受と同様に、我々は引受先を厳選する。過度に機能不全に陥りやすいと判断されるAIシステムを対象とする契約は締結しないであろう」と明言している。これは、AIのリスク評価が保険会社にとっても新たなフロンティアであり、精緻なリスク評価なしにはビジネスとして成り立たないことを明確に示唆している。

AIの進化は、疑いなく我々の社会に計り知れない便益をもたらす。しかし、その一方で、予期せぬエラーや「ハルシネーション」といった、これまでに類を見ない種類のリスクも同時に生み出している。今回登場したAIチャットボット向けの保険は、こうした新たなリスクに対する具体的な対応策の一つとして、極めて注目に値する。

企業にとっては、AI導入の心理的・経済的ハードルを一定程度引き下げる追い風となるかもしれない。しかし同時に、導入するAIの性能を継続的に監視・評価し、万が一の事態に備えるという、より高度なリスクマネジメントの視点が不可欠となるであろう。この保険が、AI技術の健全な発展と責任ある社会実装をどのように後押ししていくのかどうか。AIを開発する側、利用する側、さらにはそれを取り巻く社会全体にとって、AIとの共存のあり方を真剣に考える上で、重要な物となることは間違いないだろう。

---

Source

• Financial Times: Insurers launch cover for losses caused by AI chatbot errors