GPU 算子与执行优化：从 26 到 100 token/s 的推理引擎破茧之路
使用 Nsight Systems 定位同步、传输与发射瓶颈，集成 FlashInfer 分页注意力、融合算子与 Decode CUDA Graph 的全景深度复盘。
NOTES & IDEAS
CUDA Graph
关于「CUDA Graph」的 1 篇记录。
时间线按本站发布日期 · 从新到旧
yuzheng yuzheng NOTES & IDEAS
关于「CUDA Graph」的 1 篇记录。
使用 Nsight Systems 定位同步、传输与发射瓶颈，集成 FlashInfer 分页注意力、融合算子与 Decode CUDA Graph 的全景深度复盘。