人工知能（AI）によるディープフェイク画像とそれを検出する方法との間で、熾烈な競争が始まっている。検出側の最新の進歩は天文学から来ている。天文画像における光を解析し理解するために用いられる精緻な方法が、ディープフェイクに適用できるのだ。
「ディープフェイク」という言葉は、「ディープラーニング」と「フェイク（偽物）」を組み合わせた造語である。ディープフェイク画像がそう呼ばれるのは、機械学習の一種であるディープラーニングと呼ばれる特定のAIを用いて作られているからだ。ディープラーニングAIは、偽造を求められているものの多くの例を見せられた後、それをかなり上手く模倣することができる。画像に関しては、ディープフェイクは通常、既存の画像内の顔を別の人物の顔に置き換えて、ある人物が特定の場所にいる、特定の人々と一緒にいる、あるいは特定の活動に従事しているように見せかけることを指す。
ディープフェイクは、他のAI形態と同様に、どんどん進化している。しかし、興味深いことに、ディープフェイクを暴くための新たなツールが既に天文学に存在していることが判明した。天文学は光に関するものであり、極めて遠くにある謎めいた天体からの光の微細な詳細を解読する科学は、AIと同じくらい急速に発展している。
Natureに掲載された新しい記事で、科学ジャーナリストのSarah Wild氏は、研究者たちがどのように天文学的手法を用いてディープフェイクを暴いているかを調査した。Adejumoke Owolabi氏は英国のハル大学でデータサイエンスとコンピュータビジョンを学ぶ学生である。彼女の修士論文は、眼球に反射する光が左右で一貫している（ただし同一ではない）はずだということに焦点を当てた。Owolabi氏は、Flickrから高品質の人間の顔のデータセットを使用し、その後、画像ジェネレーターを使用して偽の顔を作成した。そして、CASシステムとGini指数という2つの異なる天文学的測定システムを用いて、眼球に反射する光を比較し、どちらがディープフェイクかを判断した。
CASは集中度（concentration）、非対称性（asymmetry）、滑らかさ（smoothness）の略で、天文学者たちが数十年にわたって銀河外の星からの光を研究し定量化するために使用してきた。また、銀河全体からの光を定量化するためにも使用され、生物学や他の画像を慎重に検査する必要がある分野にも応用されている。著名な天体物理学者Christopher J. Conselice氏は、天文学でのCAS使用の主要な提唱者だった。
Gini指数、またはGini係数も銀河の研究に使用されている。これは1912年に所得格差を測定するために開発したイタリアの統計学者Corrado Giniにちなんで名付けられた。天文学者はこれを用いて、銀河全体に光がどのように広がっているか、そしてそれが均一なのか集中しているのかを測定する。これは天文学者が銀河の形態と分類を決定するのに役立つツールである。
Owolabi氏の研究では、70%の確率で偽の画像を特定することに成功した。
Wild氏は記事の中で、英国のハル大学のData Science, Artificial Intelligence and Modelling卓越センター長であるKevin Pimbblet氏と話をした。Pimbblet氏は7月15日に英国王立天文学会の全国天文学会議でこの研究を発表した。
Pimbblet氏は次のように述べている。「これは特効薬ではありません。というのも、偽陽性と偽陰性が存在するからです。しかし、この研究は潜在的な方法、重要な前進を提供しています。おそらく、画像が本物か偽物かを判断するために適用できる一連のテストに加えることができるでしょう」。
これは有望な進展だ。開かれた民主社会は、内外の敵からの偽情報攻撃を受けやすい。公人も同様の攻撃を受けやすい。不穏なことに、ディープフェイクの大半はポルノグラフィックなもので、公人をプライベートな、時には品位を貶めるような状況で描写することがある。これと戦い、市民社会を強化するのに役立つものは何でも歓迎すべきツールである。
しかし、歴史から分かるように、軍拡競争に終わりはない。それは対抗措置の連鎖の中でエスカレートし続ける。米国とソ連が核軍拡競争の中で互いに上回ろうとし、弾頭の大きさが破壊力の面で馬鹿げたレベルに達したことを見てみよう。したがって、この研究が有望であることを示す一方で、ディープフェイクの作成者たちはこれから学び、AIによるディープフェイクの方法を改善するだろう。
Wild氏は記事の中でBrant Robertson氏とも話をした。Robertson氏はカリフォルニア大学サンタクルス校の天体物理学者で、ビッグデータと機械学習を含む天体物理学と天文学を研究している。彼は次のように述べ、多くの人が予測できることを確認している。「しかし、ディープフェイク画像がどれほどリアルに見えるかを定量化する指標を計算できれば、その指標を最適化することでさらに優れたディープフェイクを生成するようAIモデルを訓練することもできます」。
天文学的手法が地球上の問題と交差するのは、これが初めてではない。ハッブル宇宙望遠鏡が開発された際、それには強力なCCD（電荷結合素子）が含まれていた。その技術はデジタルマンモグラフィー生検システムに応用された。このシステムにより、医師はより良い乳房組織の画像を撮影し、物理的な生検なしで疑わしい組織を特定できるようになった。現在、CCDは携帯電話を含む我々のすべてのデジタルカメラの中核をなしている。
いつの日か、我々のインターネットブラウザにGiniとCASに基づくディープフェイク検出器が搭載されるかもしれない。それはどのように機能するのだろうか？敵対的な行為者がこれらの検出器を攻撃し、その後、我々の民主社会を弱体化させようとしてディープフェイク画像で我々のメディアを氾濫させることはあるだろうか？これが軍拡競争の本質である。
また、欺瞞を用いて出来事を左右しようとするのも我々の本性である。歴史が示すように、悪意のある統治者は、強い感情に囚われている人々をより簡単に欺くことができる。AIによるディープフェイクは、彼らが自由に使える最新のツールに過ぎない。
AIにはマイナス面があり、ディープフェイクはその一つであることは誰もが知っている。多くの新技術と同様に、その合法性は曖昧だが、それと戦う取り組みが始まっているのが見て取れる。米国政府はこの問題を認識しており、いくつかの法案が提案されている。2023年9月には米国下院に「DEEPFAKES説明責任法」が提出された。「AIによる消費者欺瞞からの保護法」も関連する提案である。現在のところ、両者とも小委員会の時に曖昧な世界でもがいているが、最終的には表面化して法律になる可能性がある。他の国々やEUも同じ問題と格闘している。
しかし、AIによるディープフェイクに対処する包括的な法的枠組みがない中で、そしてそれが確立された後でさえ、検出は依然として重要である。
天文学と天体物理学は、これらと戦う上で意外な味方となる可能性がある。
Source
コメント