背景与问题
Pinterest 原有推荐系统与大语言模型的组合，难以适配视觉语言模型的服务挑战。视觉语言模型推理前置填充负载高，单请求可含数千张图片，多轮对话还会加重缓存压力。
采用的做法
该公司选用 NVIDIA Blackwell B200 GPU 作为计算层，以 NVIDIA Dynamo 作为服务编排框架。该公司搭建以 Dynamo 为核心的端到端生成式 AI 服务平台，搭配 vLLM 推理引擎与统一接口。
已披露与未披露
该公司还通过内置图像编码器提供预计算视觉嵌入，结合 Dynamo 与 vLLM 降低端到端延迟。该篇案例未说明各产品团队基于统一平台落地视觉语言模型的具体实施步骤与分工。
参考来源
实践速递整理自第三方厂商公开的客户案例，仅代表原发布方的表述，不代表词元映射参与交付，也不是独立验证结论。