跳到正文
原文
AGI Hunt· NVIDIA Developer·· 4 小时前AI 评分19

NVIDIA 直播:靠内存优化在 Jetson 上跑更大模型并降本

AI 导读

NVIDIA Developer 频道预告一场直播,由 RidgeRun 与 Connect Tech 分享在 Jetson 边缘设备上做内存优化的实战经验,涵盖模型量化、高效推理 runtime 与 NVIDIA Jetson Agent Skills,把更大的视觉语言模型塞进更小内存。

来源:AGI Hunt · agihunt.info