サイエンス
AIによる要約が消費者の購買意欲を32％も高める結果が示される：LLMの情報処理はいかにして人間の批判的思考を鈍らせるのか
大規模言語モデル（LLM）が生成する「要約」は、元のテキストを客観的に圧縮したものだと我々は信じがちである。複雑で長文のレビューやニュース記事を瞬時に読み解くツールとして、現代社会における要約機能の依存度は極めて高い。し […]
Tech Product
Transformer²
別名: トランスフォーマー・スクエアード, Transformer, 変換器, Transformerアーキテクチャ
Overview
Transformer²（トランスフォーマー・スクエアード）は、大規模言語モデルが実行時に自らのパラメータを動的に調整し、特定のタスクに最適化する「自己適応」を実現するフレームワークです。SVF（Singular Value Fine-tuning）という手法を核とし、従来のLoRA等と比較して極めて少ないパラメータで効率的な適応と高い性能向上を達成します。
Mentioned Articles
9 件-
-
テクノロジーイリヤ・サツケバーが告げる「スケーリング則の終焉」とAI新時代の幕開け：SSIが目指す「真の全能」への道
OpenAIの共同創設者であり、GPT-3やGPT-4の開発を主導した「AI界の予言者」Ilya Sutskever氏。彼が長期間の沈黙を破り、自身の新会社Safe Superintelligence Inc. (SSI […]
-
テクノロジーGoogle、AIの「忘れっぽさ」を克服へ。脳に学ぶ新理論「Nested Learning」が成長を続けるAIの開発を可能にする？
生成AIは新しい知識を学ぶと、古い知識を忘れてしまうことが知られている。この「破滅的忘却」と呼ばれる長年の課題に、Googleが終止符を打つかもしれない。2025年11月7日、Google Researchは、人間の脳が […]
-
サイエンス偽造品の終焉となるか？ハイドロゲルが複製不可能な分子レベルの“指紋”を実現
あなたの手にするその製品は、本当に本物だろうか？ 高価な医薬品から、スマートフォンの心臓部であるマイクロチップ、さらには体内に埋め込む医療インプラントまで。現代社会は巧妙化する偽造品やクローン製品の脅威に常に晒されている […]
-
サイエンス「光速AI」は実現するのか？Microsoftのアナログ光学コンピューターが示す「100倍高速、100倍省エネ」の驚異の成果
Microsoftのケンブリッジ研究所から、従来のコンピュータとは原理が全く異なる、一つのプロトタイプマシンが姿を現した。「アナログ光学コンピューター（analog optical computer: AOC）」と名付け […]
-
テクノロジーSakana AI、自己適応型言語モデルを実現する革新的手法「Transformer²」を発表
Sakana AIは17日、大規模言語モデル（LLM）に新たな適応能力を付与する画期的な手法「Transformer²」（トランスフォーマー・スクエアード）を発表した。この技術は、言語モデルが異なるタスクに効率的に適応で […]
-
サイエンスAI言語モデルに“そろばん”を組み込んだら計算能力が飛躍的にアップした
意外かも知れないが、GPT-4やGeminiなど、最先端の大規模言語モデルは計算が苦手だ。 例えば、GoogleのGeminiに以下の通り少し長い計算を依頼してみると完全に間違える。（ライバルのGPT-4oは内部で別に計 […]
-
テクノロジーGoogle DeepMind、1枚の画像からゲームを作り出すAIモデル「Genie」を公開
Google DeepMindの研究者らは、1つの画像から、インタラクティブでプレイ可能なバーチャル環境を作り上げる事が出来る新しい人工知能モデル「Genie」(generative interactive enviro […]
-
テクノロジーAppleはiPhone上でのオンデバイスAIに関する画期的な研究を進めている
AppleはAI分野での同社の取り組みをほとんど明らかにしていない。Siriがあまりに使えないからAI研究ではOpenAI、MicrosoftやGoogleと比較して遅れをとっているように見えるが、どうやら同社の取り組み […]
External Mentions
6 件- arXiv The Token Is a Group Element: On Lie-Algebra Attention over Matrix Lie Groups
- arXiv Dyonic lattices, $θ$-angles and axions in the Standard Model
- arXiv All-In-All-Out Pyrochlore Iridates as Noncollinear Spin-Orbit Coupled Counterparts of Altermagnets
- arXiv Dimension-free bounds for Riesz transforms on the Hamming cube via a Bellman function
- arXiv BAFIS: Dataset + Framework to assess occupational Bias and Human Preference in modern Text-to-image Models
- Hacker News How Transformers Work – Model Used by Open AI and DeepMind