テクノロジー
Gemini自身の機能がハッキングに悪用される？新手法「Fun-Tuning」登場
Googleの大規模言語モデル（LLM）であるGeminiが、自身の持つ機能を利用した新たなハッキング手法の標的となっていることが明らかになった。研究者らは、Geminiの「ファインチューニング」機能を悪用し、プロンプト […]
Term
学習率
別名: Learning Rate
Overview
ニューラルネットワークの学習において、最適化アルゴリズムが損失関数の最小値を探す際に、一度の更新でどれだけパラメータを動かすかを決定する数値。学習率が大きすぎると収束せず、小さすぎると学習に時間がかかる。Fun-Tuningでは、この学習率を極めて小さく設定することで、通常は隠蔽されているモデルの内部信号を近似的に抽出する手法が用いられた。