著名な音楽家のグループが、著作権で保護された作品をAI企業がトレーニングに使用することを許可する英国政府の計画に抗議する前から、アーティストの権利に関する不安はすでに高まっていた。
2月初旬、世界中のアーティストからの公開書簡は、生成AI（GenAI）の支援を受けて制作された芸術作品のオークションをキャンセルするようクリスティーズオークションハウスに呼びかけた。生成AIは、膨大なデータセットから学習したパターンに基づいて、テキスト、画像、音楽などのコンテンツを作成する人工知能の一形態である。
具体的な例を挙げずに、その書簡は「拡張知能」と題されたオークションに含まれる多くの作品が「ライセンスなしに著作権のある作品でトレーニングされていることが知られている」と示唆し、そのような販売が「AI企業による人間のアーティストの作品の大量窃盗をさらに奨励している」と主張した。
テキストプロンプトを使用して画像を生成し、オンラインソースから収集されたデータセットでトレーニングされるDall-E、Midjourney、Stable Diffusionについて考えると、この書簡は芸術的創造性の本質と、このような場合に「フェアユース」や独創性の法的概念がどのように適用されるかについて重要な問題を提起した。
これらは、機械的自動化、知的財産（IP）、そして独創性と独自性が人間だけの特権であるという大切にされている理想に関する長年の懸念を含む複雑な議論である。
生成AI内部からどう考えるか
AIが創造産業に与える影響は、英国やその他の地域で主要な問題となっており、実存的な問いに直面している：今日のAIが人間の創造性に与える進化する影響をどのように理解するべきか？
この調査の範囲は単純な事実を明らかにしている：AIの画像処理モデル内部からより広くアクセス可能で包括的な思考方法を開発する必要がある。これはまさに、私の最新の研究が提案していることであり、著名なアーティスト兼写真家Trevor Paglenとの共同研究で制作された。
この研究は、AIのトレーニングに使用されるデータセットの収集とラベル付けの背後にあるメカニズムをどのように理解するのか、そして、AIの画像生成モデルが私たちの世界体験にどの程度影響を与えるかを理解するための新しい方法をどのように作り出せるのかを問いかけている。
私が主張するのは、芸術と人文科学を活用した学際的な研究方法の開発を通じて、これらの関心事に批判的に取り組むことができるということである。
クリスティーズに宛てられた公開書簡はこれらのトピックに言及したが、おそらく当然のことながら、拡張知能オークションに参加したより著名なアーティストの一部が、GenAIがどのように機能するかについての視覚的方法と洞察を積極的に提供していた程度については言及しなかった。
Holly HerndonとMat Dryhurst作品「xhairymutantx」がAIの画像生成モデルで使用されるデータセットがどのように画像を定義し変換するかを精査していることは注目に値する。例えば、Midjourneyに「Holly Herndon」という言葉を入力すると、Herndonのオンラインプレゼンスから派生したデータセットに基づく画像が生成される。
このプロセスに注目し、同時に混乱させるために、アーティストたちは独自の画像データセットを生成し、それらに「Holly Herndon」とラベル付けした。これらのデータセット内の画像は、事前にHerndonに関連する特定の特徴（例えば彼女の赤毛）を強調するように操作されていた。AIの画像処理モデルにフィードバックされると、「Holly Herndon」の画像はますます奇抜で誇張されたものになった。
これは、AI画像処理が非常に一貫性がなく選択的なプロセスであり、容易に操作できることを明確に示している。
AIの画像処理モデルが顔認識やドローン技術でどのように使用されているか—しばしば致命的な結果を伴う—を考えると、これは緊急の関心事である。
「Machine Hallucinations – ISS Dreams」の作品で航空写真について考察し、アーティストでデータ可視化のパイオニアであるRefik Anandolは、国際宇宙ステーション（ISS）によって収集された120万枚の画像からなるデータセットを使用した。他の地球の衛星画像と共に、彼はAIが生成した構成を制作した。
生成敵対的ネットワーク（GAN）—ニューラルネットワークを訓練して画像を認識、分類し、決定的に新しい画像を生成するAIモデル—を採用することで、Anandolは時間とともに変化し、自分自身を繰り返すことがないようにみえるユニークな風景を効果的に生み出した。
これらの例では、アーティストは単に「大量窃盗」に従事したり、大規模なデータセットでトレーニングされたAIモデルを使用して機械的に画像を生成したりしているのではない。彼らはAIのトレーニングに使用されるデータセットが戦略的に設計され、積極的に混乱させることができる方法に明示的に注目を集めている。
私たちの最近の著書（私が編集者および著者として貢献した）では、クリスティーズのオークションに作品が出品されなかったTrevor Paglenが、データセットが定期的に世界の不安な、幻覚的な寓話を生み出す様子を明らかにしている。
GANは特定のデータセットでトレーニングされ、世界をそのまま経験しないため、しばしば幻覚的で不気味なバージョンの世界を生成する。幻覚の現象はしばしばシステムの欠陥やグリッチと考えられるが、Paglenが示すように、それにもかかわらず、生成AIの中心的な要素である。
Paglenが作成しラベル付けしたデータセットを使用して制作された「Rainbow」のような画像では、GANにおける画像生成の内部的な潜在的なメカニズムを明らかにする、私たちの世界の幻影的なイメージが見られる。
Paglenの実践は、Dryhurst、Herndon、Anandolのそれと並んで、AIを気軽に使用してさらに多くの画像を生成するアーティストと、AIの運用ロジックを批判的に調査するアーティストとの間の明確な区別を定義している。後者のアプローチは、生成AIについて考え、私たちの生活の重要な側面を定義するために進化した技術としてより説明責任を果たすようにする際に、まさに必要とされるものである。
AIの内部的な働きがユーザーやプログラマーにとって不透明であることを認めるなら、芸術の実践や人文科学がより広い意味で、これらの説明責任のないシステム内部からどのように考えることを奨励できるかを探求することがさらに重要である。そうすることで、私たちは未来と私たちとの関係を定義している技術との理解と関わりのレベルを大幅に向上させることができる。
