Iterated Distillation and Amplification

Iterated Distillation and Amplification（IDA）は、Deep Cogitoが開発した独自のAIトレーニング手法です。この手法は、モデルにより多くの計算リソースを割り当てて高度な推論を行わせる「Amplification（増幅）」と、そこで得られた高品質な解法をモデル自身のパラメータに学習させる「Distillation（蒸留）」の2つのステップを繰り返すことで構成されます。従来の人間によるフィードバック（RLHF）や固定された大規模モデルからの蒸留とは異なり、モデルが自己対戦のように反復的に自己改善していくプロセスが特徴です。これにより、人間の教師の限界に縛られることなく、投入する計算量に応じてモデルの能力をスケールアップさせることが可能になります。同社はこの手法により、短期間で効率的に高性能なモデルを開発することに成功しました。