跳到正文
原文
Google Developers Blog·· 1 天前AI 评分38

Google Cloud 在 Cloud TPU 上实现企业级高精度长上下文多模态嵌入推理

Enterprise-Grade Precision for Long-Context Multimodal Embedding Inference on Cloud TPU

AI 导读

Google Cloud 将原生 TPU 支持集成进 vLLM,在 Cloud TPU 上实现企业级精度的长上下文多模态嵌入推理。该方案以 Qwen3-Embedding-8B 为目标模型,支持文本 4K+ tokens、多模态文本加图像 15K+ tokens 的超长上下文,并以余弦相似度验证跨硬件数值对齐,文本目标阈值 ≥0.999、多模态 ≥0.995。

来源:Google Developers Blog · developers.googleblog.com