本地部署DeepSeek,显存更重要

举报 回答
本地部署DeepSeek,显存更重要
问在线客服
扫码问在线客服
  • 回答数

    5

  • 浏览数

    8,226

举报 回答

5个回答 默认排序
  • 默认排序
  • 按时间排序

没找到满意答案?去问秘塔AI搜索
取消 复制问题
本地部署DeepSeek模型时,显存与算力均需权衡,但显存往往更具决定性。较大参数量的模型对显存容量要求更高,例如RTX 2080配备22GB显存,能更稳定地加载和运行大尺寸DeepSeek模型,避免因显存不足导致崩溃或频繁换页。而若选择参数量较小的版本,且更看重推理响应速度与整体效率,则RTX 3070凭借更强的计算单元与优化架构,在单位时间内可完成更多运算,兼顾流畅性与实用性。因此,应根据目标模型规模及实际使用需求,在显存容量与计算性能间做出针对性取舍。
取消 评论
别整虚的,显存不够啥都白扯,建议直接上24G起步,不然天天重启重载…
取消 评论
显存>显存>显存!CPU和硬盘都是配角,显存小了连模型都加载不进去
取消 评论
显存必须拉满!我试过3090跑7B都卡得想砸电脑,换成4090才喘过气来…
取消 评论
对头!显存才是真大腿,显卡再快没显存也白搭,直接OOM给你看
取消 评论
ZOL问答 > 本地部署DeepSeek,显存更重要

举报

感谢您为社区的和谐贡献力量请选择举报类型

举报成功

经过核实后将会做出处理
感谢您为社区和谐做出贡献

扫码参与新品0元试用
晒单、顶楼豪礼等你拿

扫一扫,关注我们
提示

确定要取消此次报名,退出该活动?