テクノロジー
Google、オープンソースAIモデル「Gemma」を更新し、2つの新たなモデルも追加
Googleのオープンソース大規模言語モデル「Gemma」ファミリーに、コード補完とより効率的な推論のための新しいモデルが追加された。Gemmaへのこれらの変更は、今年2月に初めてリリースされて以来の大きな拡張となる。 […]
Tech Product
RecurrentGemma
Overview
最終更新: 2026年7月13日Griffinアーキテクチャを採用し、リカレントニューラルネットワークとローカルアテンションを組み合わせたモデル。従来のTransformerモデルと比較して、メモリ制約のある環境でも長いテキストを高速かつ効率的に生成できることが特徴。
Mentioned Articles
1 件External Mentions
6 件- arXivThe Geometry of Semantic Space: A Continuous Geometric Framework for the Transformer Architecture
- arXivATLAS: Constitution-Conditioned Latent Geometry and Redistribution Across Language Models and Neural Perturbation Data
- arXivLLM-as-RNN: A Recurrent Language Model for Memory Updates and Sequence Prediction
- arXivNeurocognitive Modeling for Text Generation: Deep Learning Architecture for EEG Data
- arXivRecurrentGemma: Moving Past Transformers for Efficient Open Language Models
- Hacker NewsImplementation of Google's Griffin Architecture – RNN LLM