Tag
#vLLM
11-19
6 小时前
约 7 分钟
7 阅读
家谱古籍扫描件转文字别再按页交钱:8 款开源 OCR 千页实测,最低 0.67 元
8 款开源 OCR 模型同卡实测 850 页老扫描件:千页最低 0.67 元,错误率全部低于 1%。选型表、跑法优化阶梯与四类静默翻车急救清单,修家谱和旧档案前先看这篇。
11-19
12 小时前
约 6 分钟
6 阅读
10GB 显存跑不动 27B?Loop-9B 部署避坑实录:vLLM 直装必报错,这条路线最稳
全网教程默认你有一张 24GB 卡,可商汤 Loop-9B 正式版 4bit 权重只要 4.9GB,10GB 显存就有机会跑出「27B 级」能力。但 vLLM、SGLang 的支持都还是未合并 PR,照抄必报错。三条路线怎么选、加载 OOM 怎么救,一篇讲清。