网页资讯视频图片知道文库贴吧地图采购
进入贴吧全吧搜索
deepseek吧 关注：128,424贴子：310,653
  • 10回复贴，共1页

A卡在推理的时候有问题

只看楼主收藏回复

用的卡是Radeon VII 16G
仅使用GPU或混合使用时，会胡言乱语

仅使用CPU时就是正常的

70b的模型也是这样，为了测试快一点选择展示8b的结果
IP属地:广西1楼2025-02-06 19:27回复
    70b混合
    IP属地:广西2楼2025-02-06 19:34
    回复
      2025-08-13 21:50:39
      广告
      不感兴趣
      开通SVIP免广告
      你AMD镭VII用的什么环境和驱动跑的LLM？
      IP属地:河南3楼2025-02-09 03:47
      收起回复
        Radeon 产品兼容性
        AMD 软件：Adrenalin Edition 25.1.1 可选更新与以下 AMD Radeon 产品兼容。
        Radeon™ RX 7900/7800/7700/7600 系列显卡
        Radeon™ RX 6900/6800/6700/6600/6500/6400 系列显卡
        Radeon™ RX 5700/5600/5500/5300 系列显卡
        Mobility Radeon™ 产品兼容性
        AMD 软件：Adrenalin Edition 25.1.1 可选更新是一款笔记本参考图形驱动程序，对系统供应商特定功能提供有限的支持。
        AMD Radeon™ RX 7900M/7800M/7600M 系列显卡
        AMD Radeon™ RX 6800M/6700M/6600M/6500M/6300M 系列显卡
        AMD Radeon™ RX 5700M/5600M/5500M/5300M 系列显卡
        已修复的问题和改进
        使用 DirectX® 12 API 玩 Apex Legends™ 时的性能有所提升。
        在 AMD Ryzen™ AI 和 Radeon™ 产品上使用 LM Studio 时，可能会观察到低于预期的性能。
        IP属地:河南4楼2025-02-09 03:59
        回复
          如果不行，你需要去搜likelovewant大佬发布的ollama-for-amd安装包，里面有支持gtx906显卡的windows平台ollama工具，通过这个再跑deepseek。
          IP属地:河南5楼2025-02-09 04:29
          收起回复

            扫二维码下载贴吧客户端

            下载贴吧APP
            看高清直播、视频！
            • 10回复贴，共1页
            发表回复
            发贴请遵守贴吧协议及“七条底线”贴吧投诉
            内  容:
              查看全部
            发 表
            保存至快速回贴

            发布成功
            去贴吧APP订阅抽奖结果通知
            扫码进入贴吧APP
            ···········
            开奖后第一时间站内信通知
            ···········
            中奖结果全员公示