CheinTian / notes

Topic

#Disaggregated-Serving

1 篇笔记

AI INFRA 全景分析与展望

AI INFRA 全景分析与展望 深度调研日期:2026-06-24 | 来源:多源 Web 搜索 + 对抗验证(24 个搜索代理,15+ 源站,70+ 可验证 claims) 📐 全景架构定位图 ---|------| | 核心创新 | PagedAttention — OS 式虚拟内存分页管理 KV Cache,将显存碎片率从 40% 降至 ⚠️ 注意:vLLM 上游无法提供 day-0 R…