Term

DeepSeek Sparse Attention

別名: DSA, Deep Synoptic Array

Overview

最終更新: 2026年6月8日

DeepSeek Sparse Attention (DSA)は、DeepSeek V3.2で導入された革新的なアーキテクチャです。従来のAttentionメカニズムが文脈長に対して二乗オーダーで計算量が増加する問題を解決するため、重要なトークンのみを動的に選択して計算を行うスパース(疎)なアプローチを採用しています。これにより、128Kもの長いコンテキストウィンドウを維持しながら、推論コストの劇的な削減と高速化を両立させています。

Mentioned Articles

3 件

External Mentions

7 件