テクノロジー
AIが「内なる独白」を行うようにしたところ、推論パフォーマンスが大幅に向上した
生成AIは使い方によっては便利な物だが、未だその出力は不安定な部分があり、時にデタラメを吐き出すなど問題が多い。“プロンプト・エンジニアリング”と呼ばれるような、大規模言語モデル(LLM)からの出力精度を上げる方法も数多 […]
別名: Quiet Self-Taught Reasoner
Quiet-STaRは、大規模言語モデル(LLM)がテキストを出力する前に、バックグラウンドで複数の論理的根拠を並行して生成(内なる独白)するように訓練する手法です。STaR(Self-Taught Reasoner)アルゴリズムを一般化したもので、特定のドメインに依存せず、トークン単位で将来のテキストを予測・説明する能力を学習させ、数学的推論や常識的な質問応答の精度を向上させます。