个人学习小站 SIGNAL DESK 2026
LIVE --:--:-- 投稿 账号
Tag

#部署

共 7 篇内容 tag
11-13 人工智能 41 分钟前

Praxis-1 开源:46.2% 是分组第一,同榜四个更高

Runway 把 27B 世界动作模型 Praxis-1 按 Apache 2.0 放出,官方称 RoboLab-120 双料第一。定语成立,但同一张表上还有 4 个更高的数字,最高 86%。本文拆开 27.2B 里活跃的 2.8B、1.6 秒一块的延迟账,以及中训练第 5 个点不涨的原因。

Runway 官方发布稿与技术报告(2026-11-11) 约 7 分钟 6 阅读 开源模型部署许可协议
11-12 人工智能 14 小时前

删掉 0.05% 权重追平全量微调,适配器只剩 8.4MB

NeurIPS 2026 的 Deletion Tuning 冻结全部预训练权重,只把不到 0.05% 的权重置零,在 8 个基座上追平全量微调。本文拆开机制、7B 门槛与三处不能照抄的地方。

arXiv 2611.10866(NeurIPS 2026)与作者团队技术解读 约 7 分钟 8 阅读 技术决策评测方法部署
11-12 人工智能 20 小时前

DeepSeek 大肥鱼免费部署:4 条路线与 6 家模型源

大肥鱼是社区给 DeepSeek 做的拟人角色,跑起来要三样东西:人格提示词、常驻运行时、模型供给。本文给 4 条部署路线与 6 家免费模型源,逐条标出上手时间、成本与断线风险。

LangBot 文档与 DeepSeek Harness 文档 约 7 分钟 9 阅读 技术决策DeepSeek部署
11-12 人工智能 22 小时前

本地跑大模型要多少显存:8 档参数与 3 种精度对照

显存不是一条公式能算完:权重占参数×字节,KV 缓存随上下文线性增长,框架还有 1-2 GB 开销。本文给出 8 档参数在 FP16/INT8/Q4 下的权重表、常见显卡能跑多长上下文,以及 MoE 与量化最容易踩的三个坑。

模型 config.json、量化文件实测、框架显存日志与官方模型卡 约 5 分钟 6 阅读 技术决策开源模型部署
11-11 人工智能 1 天前

Qwen3.8-27B:24GB 能跑,262K 装不下

同一份开源权重,四种显卡算出四本账:权重 16.4 GB 装得下,262K 上下文的缓存却要 16 GiB。本文用 config.json 与实测日志,把权重、缓存、推理三笔成本拆开算。

Qwen 官方模型卡与 config.json、vLLM 实测日志、Unsloth 量化文件、BenchLM 与 Vals AI 独立评测 约 4 分钟 9 阅读 技术决策开源模型阿里通义
11-10 人工智能 2 天前

面壁 MiniCPM-V 4.7:35B 模型如何跑进手机 3GB 内存

35B 参数、4bit 量化后权重约 17.5GB,12GB 手机留给模型的可用内存只有约 8GB。面壁 MiniCPM-V 4.7 把专家权重放到闪存,用 LES 前瞻调度预读,把读取时间藏进计算,同一台 iPhone 上从 3.38 提到 20.51 token/s。本文拆解这套工程方案的边界。

面壁智能 LES 技术博客 / 界面新闻采访 约 6 分钟 14 阅读 多模态部署低延迟
Q 开放权重 · Qwen3.8 27B / 2026-08-14

Qwen3.8 27B 规格速查

阿里通义

开源的 27B 稠密视觉语言模型,1M 上下文、236K 输出,输入 0.15 美元、输出 1.88 美元。在开源稠密模型里,这个尺寸是单机部署与能力之间的折中点。

参数
27B 稠密
上下文
1M tokens
价格
输入 0.15 / 输出 1.875 美元每百万 tokens
模态
多模态
11-09 6 阅读