サイエンス
AI言語モデルに“そろばん”を組み込んだら計算能力が飛躍的にアップした
意外かも知れないが、GPT-4やGeminiなど、最先端の大規模言語モデルは計算が苦手だ。 例えば、GoogleのGeminiに以下の通り少し長い計算を依頼してみると完全に間違える。(ライバルのGPT-4oは内部で別に計 […]
大規模言語モデルにおいて、各数字の桁に相対的な位置情報を付与する手法。そろばん(Abacus)のように桁を正確に整列させることで、モデルが長大な数字の加算や乗算を正確に実行できるようにする。