模型参数量和显存这组选题,是从公众号长文改成小红书连续图文的一次完整制作。看到 7B、32B、70B,很多人最先问的是这台电脑能不能跑。这个问题不能只靠显卡型号回答,至少要先算权重底账,再把 KV Cache、运行时、系统占用和实际性能分开。
最终有 13 张 1080×1440 PNG。文字、公式、表格和页码由 HTML 和 CSS 排版,Image 2 只负责无文字背景、小反与道具。13 页依次解释 B、FP32、FP16 和 BF16、INT8、INT4、量化差异、权重公式、额外占用、Windows、Linux、Apple Silicon、Ollama 与性能因素。全套经过逐字、溢出、角色一致性和插图遮挡检查。《模型参数量和显存,到底是什么关系?》封面
参数量乘每参数字节数,只能算权重底账。Q4 不一定严格等于 0.5 字节每参数,KV Cache 不能套固定百分比,Apple Silicon 也没有适用于所有设备和工具的统一 60% 到 70% 公式。显存够,只说明模型有机会加载,速度和可用性还要看上下文、batch、缓存精度、后端、带宽和卸载方式。
Codex 核对 Hugging Face Accelerate、Transformers Cache strategies 与 Apple M1 说明,整理 13 页文案,生成逐页背景,编写 HTML 和 CSS 和渲染脚本,并制作 Contact Sheet 与遮挡 QA 图。原公众号文章被判断为真人文本,qu ai wei 停止语言重写,只做格式、平台适配和事实边界修正。后来我又要求删除所有显存估算工具内容,并反馈插图遮挡,最终版重排第 12 页、缩小多页插图并重新通过 QA。
这页展示的是本地发布图、发布文案、事实来源和 QA 记录。公开档案只放封面和制作方法;没有证据证明已经登录或发布到小红书。权重公式是粗估,不是完整峰值显存,具体模型和设备仍然要实测。
