深入浅出 FlashAttention：快如闪电的精确注意力机制与 IO 感知计算
从第一性原理、GPU 显存金字塔到 Online Softmax 动态分块与反向重计算的全景图解推导。
NOTES & IDEAS
注意力机制
关于「注意力机制」的 1 篇记录。
时间线按本站发布日期 · 从新到旧
yuzheng yuzheng NOTES & IDEAS
关于「注意力机制」的 1 篇记录。
从第一性原理、GPU 显存金字塔到 Online Softmax 动态分块与反向重计算的全景图解推导。