2024年パリオリンピックは、世界中から数千人のアスリートとサポートスタッフ、そして何十万人もの訪問者がフランスに集結し、世界の注目を集めている。しかし、世界の目だけでなく、人工知能システムも監視を行うことになる。
政府と民間企業は、大会の前後および期間中、高度なAIツールやその他の監視技術を使用して、広範囲かつ持続的な監視を行う。オリンピックの世界的な舞台と国際的な観客は、セキュリティリスクを高めるため、近年では当局や批評家たちがオリンピックを「戦時以外で世界最大の安全保障オペレーション」と表現するほどである。
フランス政府は、民間技術セクターと協力して、セキュリティ強化の正当な必要性を根拠に、技術的に高度な監視およびデータ収集ツールを導入している。これらのリスクに対応するための監視計画は、実験的なAIビデオ監視の物議を醸す使用を含め、非常に広範囲にわたるため、フランスは計画された監視を合法化するために法律を変更しなければならなかった。
この計画は新しいAIビデオ監視システムにとどまらない。報道によると、首相府は大会期間中、政府が従来の秘密裏の監視および情報収集ツールを大幅に強化することを許可する暫定的な機密政令を交渉している。これには、盗聴、位置情報・通信・コンピューターデータの収集、視覚・音声データのより多くの収集が含まれる。
私は法学教授であり弁護士でもあり、プライバシー、人工知能、監視について研究し、教え、執筆している。また、これらの主題について立法者などに法的・政策的な指導も行っている。セキュリティリスクの増大は、確かに監視の強化を必要とする。今年、フランスはオリンピックのセキュリティ能力に関する懸念や、公共スポーツイベントを取り巻く信憑性のある脅威に直面している。
しかし、予防措置はリスクに比例すべきである。世界的に、批評家たちはフランスがオリンピックを監視権力の拡大に利用していると主張し、政府がこの「例外的な」監視の正当化を利用して、社会全体の国家監視を常態化させると批判している。
同時に、セキュリティのための適切かつ効果的な監視に関する正当な懸念もある。例えば、米国では、2024年7月13日に発生したDonald Trump元大統領に対する暗殺未遂を、シークレットサービスのセキュリティ監視がどのように防げなかったのかという疑問が投げかけられている。
AIを活用した大規模監視
フランス当局は、新たに拡大された監視法を活用し、AI企業のVidetics、Orange Business、ChapsVision、Winticsと協力して、広範囲にわたるAIビデオ監視を展開している。彼らは大規模なコンサート、スポーツイベント、混雑時の地下鉄や駅でこのAI監視を使用しており、Taylor Swiftのコンサートやカンヌ映画祭の周辺でも使用された。フランス当局は、これらのAI監視実験が上手くいき、将来の使用に向けて「青信号」が点灯したと述べている。
使用されているAIソフトウェアは一般的に、群衆の規模や動きの変化、放置された物体、武器の存在や使用、地面に横たわる人体、煙や炎、特定の交通違反などの特定のイベントにフラグを立てるように設計されている。この監視システムの目的は、群衆が門に殺到したり、人が混雑した街角にバックパックを置き去りにしたりするような出来事をリアルタイムで即座に検出し、セキュリティ要員に警告することである。これらのイベントにフラグを立てることは、技術の論理的かつ賢明な使用に思える。
しかし、実際のプライバシーや法的問題は、これらのシステムがどのように機能し、使用されているかから生じる。これらのイベントにフラグを立てるために、どれだけの、そしてどのような種類のデータを収集し分析する必要があるのか。システムのトレーニングデータ、エラー率、バイアスや不正確さの証拠は何か。収集されたデータはその後どうなり、誰がアクセスできるのか。これらの疑問に答える透明性はほとんどない。人物を特定できる生体データの使用を防ぐための保護措置があるにもかかわらず、トレーニングデータがこの情報を捕捉している可能性があり、システムがそれを使用するように調整される可能性がある。
これらの民間企業にフランス全土に既に設置されている数千台のビデオカメラへのアクセスを与え、鉄道会社や運輸事業者の監視能力を活用・調整し、カメラ付きドローンの使用を許可することで、フランスは法的にこれらの企業が自国の市民と訪問者に対してAIソフトウェアをテストし、トレーニングすることを許可し、支援している。
合法化された大規模監視
オリンピックにおける政府の監視の必要性と実践は決して新しいものではない。2022年の北京冬季オリンピックでは、セキュリティとプライバシーの懸念が非常に高かったため、FBIは「全てのアスリート」に対し、個人の携帯電話を自宅に置いていき、中国滞在中は使い捨て電話のみを使用するよう勧告した。これは、政府による極端なレベルの監視があったためである。
しかし、フランスは欧州連合（EU）の加盟国である。EUの一般データ保護規則（GDPR）は世界で最も厳しいデータプライバシー法の一つであり、EUのAI法は有害なAI技術の使用を規制する取り組みをリードしている。EUの加盟国として、フランスはEU法に従わなければならない。
オリンピックに向けて、フランスは2023年に法律第2023-380号を制定した。これは2024年オリンピックの法的枠組みを提供する一連の法律パッケージである。これには、2024年オリンピックの前後および期間中にフランスの法執行機関とその技術請負業者がインテリジェントビデオ監視を実験することを許可する物議を醸す第7条と、AIソフトウェアによるビデオおよびカメラフィードの確認を特別に許可する第10条が含まれる。これらの法律により、フランスはこのような広範囲にわたるAI駆動の監視システムを合法化したEU初の国となった。
学者、市民社会団体、市民的自由の擁護者たちは、これらの条項がGDPRやEUのAI規制の取り組みに反していると指摘している。彼らは、第7条が特にGDPRの生体データを保護する規定に違反していると主張している。
フランス当局と技術企業の代表者たちは、AIソフトウェアが人物を特定せず、生体データの処理に関するGDPRの制限に抵触することなく、特定の種類のイベントを識別しフラグを立てるという目標を達成できると述べている。しかし、ヨーロッパの市民権団体は、アルゴリズムとAI駆動カメラの目的と機能が公共空間で特定の不審なイベントを検出することであれば、これらのシステムは必然的にこれらの空間にいる人々の「生理的特徴と行動」を「捕捉し分析する」ことになると指摘している。これには体の姿勢、歩き方、動き、ジェスチャー、外見が含まれる。批評家たちは、これは生体データが捕捉され処理されているのであり、したがってフランスの法律はGDPRに違反していると主張している。
AIを活用したセキュリティ – そのコスト
フランス政府とAI企業にとって、これまでのところAI監視は互恵的な成功を収めている。アルゴリズムによる監視者がより多く使用され、政府とその技術協力者に人間だけでは提供できないはるかに多くのデータを与えている。
しかし、これらのAI対応の監視システムは規制が不十分で、独立したテストもほとんど行われていない。データが一旦収集されると、さらなるデータ分析とプライバシー侵害の可能性は膨大なものとなる。
コメント