yuzheng310 · 项目与笔记关于推理系统、代码 Agent 和数据库的一些工作与记录。https://yuzheng310.github.io/深入理解 vLLM：高吞吐大语言模型推理系统架构剖析https://yuzheng310.github.io/blog/vllm-architecture/https://yuzheng310.github.io/blog/vllm-architecture/从 PagedAttention、连续批处理、前缀缓存、投机解码等核心机制，到多 GPU 动态服务架构的全景剖析。Tue, 15 Sep 2026 00:00:00 GMT深入浅出 FlashAttention：快如闪电的精确注意力机制与 IO 感知计算https://yuzheng310.github.io/blog/flash-attention/https://yuzheng310.github.io/blog/flash-attention/从第一性原理、GPU 显存金字塔到 Online Softmax 动态分块与反向重计算的全景图解推导。Tue, 15 Sep 2026 00:00:00 GMTGPU 算子与执行优化：从 26 到 100 token/s 的推理引擎破茧之路https://yuzheng310.github.io/blog/qwen3-gpu-optimization/https://yuzheng310.github.io/blog/qwen3-gpu-optimization/使用 Nsight Systems 定位同步、传输与发射瓶颈，集成 FlashInfer 分页注意力、融合算子与 Decode CUDA Graph 的全景深度复盘。Tue, 15 Sep 2026 00:00:00 GMT怎样读一个推理性能数字https://yuzheng310.github.io/blog/performance-evidence/https://yuzheng310.github.io/blog/performance-evidence/先明确比较的对象，再讨论加速比。Sun, 13 Sep 2026 00:00:00 GMT多轮 Agent 中的 KV 状态管理https://yuzheng310.github.io/blog/session-kv/https://yuzheng310.github.io/blog/session-kv/把一次模型请求放回完整的工具调用循环中看。Sun, 13 Sep 2026 00:00:00 GMTQwen3 Runtimehttps://yuzheng310.github.io/projects/qwen3-runtime/https://yuzheng310.github.io/projects/qwen3-runtime/面向多轮 Agent 的单 GPU 推理运行时。Sun, 13 Sep 2026 00:00:00 GMTRepoCompasshttps://yuzheng310.github.io/projects/repocompass/https://yuzheng310.github.io/projects/repocompass/围绕仓库级文件与函数定位构建的代码 Agent 后训练系统。Sat, 12 Sep 2026 00:00:00 GMTDynamoDB 兼容与在线迁移https://yuzheng310.github.io/projects/database/https://yuzheng310.github.io/projects/database/基于 MongoDB 的 DynamoDB API 兼容层，以及配套的双向迁移与校验工具。Fri, 11 Sep 2026 00:00:00 GMT