跳到主要内容

1 篇文档带有标签「hybrid-attention」

查看所有标签

注意力架构

78 层 MLA 低秩注意力 + DSA 动态稀疏选择 + 1/4 层跨层复用索引——稀疏路线堆出 1M 无损上下文