文档 & 知识
优化注意力闪光
@optimizing-attention-flash
Flash Attention 通过 IO 感知的平铺和重新计算，为变压器注意力提供 2-4 倍的加速和 10-20 倍的内存减少。
包含技能
1 个优化注意力闪光
@zechenzhangagi/ai-research-skills/optimizing-attention-flash
Flash Attention 通过 IO 感知的平铺和重新计算，为变压器注意力提供 2-4 倍的加速和 10-20 倍的内存减少。