1 篇文档带有标签「head-specialization」

为什么把注意力切成多头、每头各学到什么功能、现代 LLM 的头数与维度如何权衡