pt吧 关注:225,579贴子:11,761,097

【250210】nas部署deepseek

只看楼主收藏回复

有大佬部署过deepseek了吗?体验怎么样呢。


IP属地:北京1楼2025-02-10 15:11回复
    普通人本地化只能部署蒸馏之后的模型,AI的智商骤降,完整版671B没多少个人跑得动


    IP属地:河北2楼2025-02-10 15:12
    回复
      2026-01-12 16:15:10
      广告
      不感兴趣
      开通SVIP免广告
      完全没必要,性能一般


      IP属地:河北来自iPhone客户端3楼2025-02-10 15:49
      回复
        不如直接用官方api


        IP属地:河南来自Android客户端4楼2025-02-10 16:21
        回复
          我试过,没显卡只能跑1.5b的。不过diy的洋垃圾128Gddr3,也能跑14b的,纯cpu也有10token每秒。总体来说有高内存玩玩可以。但是肯定不如部署一个web然后使用官方api


          IP属地:广西5楼2025-02-10 17:10
          回复
            想多了,在 nas 上只能部署人工智障


            IP属地:上海来自Android客户端6楼2025-02-10 17:19
            收起回复
              没必要


              IP属地:北京来自iPhone客户端7楼2025-02-10 19:16
              回复
                参数太少意义不大


                IP属地:江苏来自iPhone客户端8楼2025-02-10 19:50
                回复
                  2026-01-12 16:09:10
                  广告
                  不感兴趣
                  开通SVIP免广告
                  部个勉强能用的70B,起步都要4080以上,16G显存以上,内存也要20G以上,啥nas有这配置,直接连官方API不好么。


                  IP属地:北京9楼2025-02-10 19:57
                  回复
                    跑不动,试过了


                    IP属地:内蒙古来自iPhone客户端10楼2025-02-10 23:45
                    回复
                      绑定


                      IP属地:广东来自iPhone客户端11楼2025-02-10 23:51
                      回复
                        性能要求太苛刻跑不动高智商的,部署不聪明的还不如直接官方


                        IP属地:广东来自Android客户端12楼2025-02-11 00:18
                        回复
                          给NAS的pcie插张H100,不然ds发育不良了


                          IP属地:广西13楼2025-02-11 00:30
                          回复
                            绑定


                            IP属地:上海14楼2025-02-11 00:46
                            回复
                              2026-01-12 16:03:10
                              广告
                              不感兴趣
                              开通SVIP免广告
                              没呢


                              IP属地:陕西来自Android客户端15楼2025-02-11 00:48
                              回复