vLLM Semantic Router Releases d3-ultra: A 27B Open Multimodal Decision Model
vLLM Semantic Router released d3-ultra, a 26.09B Apache-2.0 multimodal decision model scoring 87.2 on its own SR-Text benchmark.
Topic
#VLM
2 篇笔记
PaddleOCR-VL 服务问题排查与部署汇总
📝 摘要 本文汇总了 PaddleOCR-VL 服务在 vLLM 部署下的效果问题排查结论及完整部署方案。客户反馈 PaddleOCR-VL 丢失版面分析能力，根本原因是直接用 OpenAI SDK 裸调 vLLM 的 接口，只调用了 VLM 识别模型而绕过了版面分析模型 PP-DocLayoutV3。PaddleOCR-VL 的正确用法是两阶段 pipeline：版面分析 + VLM 识别。文…