
サイエンス
意識の錯覚を打ち砕く。Age of Empires IIと「ヤギ」が暴いたAIの正体
AI研究者のデ・ウィンター氏は、ゲーム内のヤギを用いた演算回路でAIの仕組みを再現し、LLMに心があるという錯覚を批判した。洗練されたUIが計算プロセスを隠蔽し、擬人化を誘発している実態を、あえて不条理な手法を用いることで暴き出している。
別名: University of Wisconsin
米国ウィスコンシン州に拠点を置く公立大学システム。特にマディソン校(UW-Madison)は、全米屈指の研究大学として知られ、コンピューターサイエンスや人工知能の研究において長い歴史と高い実績を持つ。カリフォルニア大学サンディエゴ校との共同研究により、AIモデルの脆弱性を指摘する「Fun-Tuning」などの成果を上げている。

AI研究者のデ・ウィンター氏は、ゲーム内のヤギを用いた演算回路でAIの仕組みを再現し、LLMに心があるという錯覚を批判した。洗練されたUIが計算プロセスを隠蔽し、擬人化を誘発している実態を、あえて不条理な手法を用いることで暴き出している。

Googleの大規模言語モデル(LLM)であるGeminiが、自身の持つ機能を利用した新たなハッキング手法の標的となっていることが明らかになった。研究者らは、Geminiの「ファインチューニング」機能を悪用し、プロンプト […]