テクノロジー
Sakana AI、自己適応型言語モデルを実現する革新的手法「Transformer²」を発表
Sakana AIは17日、大規模言語モデル（LLM）に新たな適応能力を付与する画期的な手法「Transformer²」（トランスフォーマー・スクエアード）を発表した。この技術は、言語モデルが異なるタスクに効率的に適応で […]
Overview
Sakana AIは、Googleの研究者らが東京で設立したAIスタートアップです。進化計算や群知能など、自然界のプロセスから着想を得た独自のアプローチで大規模言語モデルの開発や最適化を行っており、モデルマージ技術や自己適応型AIの研究で世界的に注目を集めています。
Mentioned Articles
1 件External Mentions
5 件- arXiv Kernel Contracts: A Specification Language for ML Kernel Correctness Across Heterogeneous Silicon
- arXiv Evaluating Novelty in AI-Generated Research Plans Using Multi-Workflow LLM Pipelines
- Hacker News 'Attention is all you need' coauthor says he's 'sick' of transformers
- Hacker News Text-to-LoRA: Hypernetwork that generates task-specific LLM adapters (LoRAs)
- arXiv Evaluating Sakana's AI Scientist: Bold Claims, Mixed Results, and a Promising Future?