热点事件持续更新
llama.cpp 支持跨机器张量并行
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
2026 年 10 月 6 日，AGI Hunt 报道称，llama.cpp 合入了一个新 PR（PR #26610，作者 am17an），新增 RPC 参数 -sm tensor，支持跨多台机器进行张量并行。据该报道，用户可以把一个大模型拆分到多台电脑上共同推理，从而不再受单机显存限制。报道称这对本地部署超大模型的社区是重要进展。报道未提供该 PR 的具体合并时间、参与测试的机器配置以及实际推理性能数据。
AI 根据报道生成 · 1 小时前更新
最新进展10月6日 23:45
llama.cpp 合入 PR #26610，新增 -sm tensor 参数，支持多机张量并行共跑大模型。报道时间线
沿着报道，了解事件的不同侧面。
10月6日
- AGI Huntllama.cpp 合入新 PR 支持跨机器张量并行，多台电脑共跑一个大模型
llama.cpp 合入新 RPC 参数 -sm tensor（PR #26610，作者 am17an），支持跨多台机器做张量并行。用户可把一个模型拆分到多台电脑上共同推理，不再受单机显存限制，对本地部署超大模型的社区是重要进展。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。