deepseek吧 关注:128,370贴子:310,636
  • 14回复贴,共1

内存16g显存8g4070跑32b

只看楼主收藏回复

这是不是跑满了啊,为什么共享显存一点没占用安全?


IP属地:山西来自Android客户端1楼2025-01-31 15:44回复


    IP属地:山西来自Android客户端2楼2025-01-31 15:47
    回复
      2025-08-13 04:29:40
      广告
      不感兴趣
      开通SVIP免广告
      爆内存了,显存也爆了。本来14b勉勉强强的,非得跑32b


      IP属地:河北3楼2025-03-05 20:30
      回复
        下面我给你看看几种加载模型后显卡运存显存状态性能,拿我3060 12g 举例子,第一种显存内存什么都够用性能拉满效果最好的,第二种显存性能都差,拿内存条共享的,共享内存当显存会导致性能明显下降。第三种显存不够内存不够,无法调用共享内存了,也就是爆内存显存了,显卡不干活了纯cpu跑了,你就是这第三种。我加上图片你看看就知道了,分别是加载 14b 32b 和70b 的效果。用的ollama deepseek-r1








        IP属地:河北5楼2025-03-05 21:59
        收起回复
          没法,我新买的4070ts,也不行,跑32B没比我的1050快多少,1050 2g是2tops,这个4070ts 16g是3.5top,我无语了


          IP属地:山东6楼2025-03-21 11:03
          收起回复
            内存都嫌慢
            你都用硬盘跑了
            几秒钟能蹦出来一个字?


            IP属地:河北7楼2025-03-21 11:41
            回复
              我7845hx+4070laptop你得插第二条内存组成32G内存(跑满16G共享内存给显存)你只有16g内存肯定不行啊CPU都吃满了直接就炸了。32G的总内存能吃到30G


              IP属地:广东来自Android客户端8楼2025-04-04 13:49
              回复