-
-
1训练慢,很多人第一反应是卡不够。实际上先卡住的经常是数据读取,尤其是数据集放在网络存储上、每轮都要重新读一遍的时候。 先算一个数:把数据集大小除以一轮要花的时间,就是最低需要的读带宽。比如数据集 500G,一轮要跑一小时,平均下来至少 140MB/s 才能不拖后腿,还没算上多卡同时读的放大。 万兆网的实际上限大约 1200MB/s,但这是指总带宽,八张卡同时读就按八分之一算。算下来每卡能分到一百多兆,勉强够,一旦有人同时写日志、
-
57有的话求拉,如果没有的话,那我想要创建一个了,学习交流用,主要用来分享技术和行业资讯,本人已入门,希望在进阶路上能和志同道合的伙伴携手同行,一起加油!私我加V
-
0Steel Surface Defect Detection with the Efficient-Net Backbone in YOLOv8 这篇论文在摘要中声称在neudet数据集做到了mAP:50-95达到99%,这玩意真能做到吗
-
1机器学习,人工智能,Java,springboot ,vue,课题
-
0很多人在报配置的时候,把 70B 模型的显存算成 140G,也就是权重乘以二。按这个数去选卡,上线之后八成会 OOM。显存不是只有权重一块。 第一块,权重本身。FP16 下 70B 大约 140G,这是基础,跑不掉。 第二块,KV cache。这是最容易漏的一块。它的占用跟上下文长度、并发数成正比,公式大致是:层数 × 2 × 隐藏维度 × 序列长度 × 并发数 × 精度字节数。实际感受是,上下文从 4K 拉到 32K,KV cache 能翻到几十 G 甚至上百 G。并发开 8 路和开 1 路,这块差
-
1报配置前先算显存,不然报小了跑不起来,报大了白花钱。 粗算方式:权重按参数量乘每参数字节。int8 下 7B 约 7G,13B 约 13G,32B 约 32G,70B 约 70G。fp16 翻一倍。再留 KV cache:和 batch、上下文长度、层数正相关,长上下文场景这部分能吃掉十几 G。再留 20% 左右给框架和碎片。 所以:7B int8 短上下文,12G 勉强、24G 舒服;13B int8,24G 够;32B int8,需要 48G 以上或双卡;70B,单卡放不下,得双卡 48G 乘 2 或八卡整机。 对应的可租规格(单卡月租,以实际配
-
5机器学习,大数据,人工智能,Java,springboot ,vue,课题
-
0【S-深度睡眠2】网盘链接,免费分享 家人们刚找到这款S-深度睡眠2,亲测可用无毒绿色免安装中文版,解压即玩。 网盘链接(复制链接,删去删字即可打开) http删s://pan删.xunlei删.com/s/VP5mrmVC9e4gYL4aY0RBBMzIA1
-
0最近帮人挑租用配置,发现一个挺有意思的档位:1张3090月租950元,1张4090月租1050元,差价只有100块。但两者的FP16算力是285 TFLOPS对660 TFLOPS,翻了一倍多。 差价这么小,纠结的人反而不多:预算到1000块这一档,基本都直接上4090。原因很实在——同样24G显存,跑13B量化推理要的是吞吐和响应速度,4090在长上下文和高并发下掉速更慢,出图的迭代次数也明显更多。 那什么时候3090更合适?如果你的活儿是低并发、单请求、跑通就行的那种,比如模型选型
-
1训练跑起来卡利用率只有三成,大多数人第一反应是加卡。实际多数情况不是算力不够,是数据喂不上。 一、先确认是不是在等数据。看卡利用率曲线,如果周期性从高位掉到接近 0 再爬回来,基本就是在等一个 batch。稳定的高位波动才是真的算力不足。 二、本地盘类型影响很大。SATA SSD 顺序读几百兆每秒,NVMe 能到 GB 级,随机小文件读的差距更夸张。训练数据放机械盘是最容易犯的错。 三、数据格式比硬盘更关键。几万张散图直接读,IO 次数会把
-
0
-
2用大模型进行发动机剩余寿命预测时候,验证集的rmse数值在9到10之间。但是测试集的rmse在 13甚至更大,有没有什么方法可以改善,或者相关的论文
-
0
-
0
-
0【深度搜索_5.4最新免费版】网盘链接,免费分享 家人们刚找到这款深度搜索_5.4最新免费版,亲测可用无毒绿色免安装中文版,解压即玩。 网盘链接(复制链接,删去删字即可打开) http删s://pan删.quark删.cn/s/42e6245b8497
-
26灵魂设计的路与坑,看后更懂灵魂,你也能理解,因人人多有个大脑,人人多可以感知自己条件反应背后的因果机制 - - 吧主别删帖,我没发广告,也没骂人,就发一点自己的小发现。不能因为我的观点不符合主流观点,就把我的帖删了。而人工灵魂恰恰是人人多可以研究,因人人多有个脑子,人人多可以感知自己反应的前因后果。 就好有人说铁比水重,然后认为让铁浮在水上就是一派胡言。那样就造不出轮船了。 有比如有人说能让几十吨重的金属
-
0一般神经网络都可以拟合公式,比如一般公式无法拟合的情况下,bp神经网络拟合公式,经常可以拟合度非常高,
-
0
-
17机器学习,大数据,人工智能,Java,springboot ,vue,python课题
-
2
-
0数据集5w+,训练4w,测试1w,imgsz640,worker8,剩下默认,没跑几轮训练电脑内存就满了结果训练失败了,模型是yolo26n,是什么原因啊
-
0最近整理了一套完整的深度学习图像识别课程,从卷积神经网络基础到Faster R-CNN现代目标检测算法都有覆盖,总共44个视频讲座加上配套PDF文献,容量约4.3GB。 课程内容分五个章节: 第一章讲解CNN原理,包括卷积层计算、池化操作、Padding填充等基础知识;第二章深入网络优化,涵盖Dropout、数据增强、梯度消失解决方案以及各类优化器(SGD/Momentum/Adam等);第三章详细介绍VGG、Inception、ResNet、DenseNet、MobileNet等经典架构;第四章讲古典目标检测方法;第
-
3
-
1研一,最近在忙着做实验,常复现论文代码,在做实验的过程中发现一个现象,以训练1000轮为例,我使用论文作者自己提供的数据集的时候,模型权重往往在1000轮中会更新很多次,但使用了我自己的数据训练模型后,往往在前200轮更新为最佳权重后,后面的训练对效果没有提高,这是为什么呢,是我数据集的问题,还是学习率等参数没有对应修改的原因?希望有大佬解答?
-
0
-
4各位大佬们,我想问下,我最近进组了,负责深度学习模型的训练,要我学着部分的内容,不知道要怎么学。现在也是在ai的帮助下弄了个mnist这个项目。但整个流程都是在ai的帮助下的(基本上是ai叫我干什么,把代码给我)这样,我感觉这好像没啥用,无法达到任务要求。
-
0
-
1深度学习,加模块后训练变得特别慢,从三小时增加到六个小时,是不是就不满足轻量化和实时了啊?还是要等训练完后,自己实际去测试模型呢?就从训练时间变长这个现象能不能看出点什么呀?
-
0
-
0
-
0
-
0
-
0
-
0这套深度学习与OpenCV核心技术课程共18个视频,系统覆盖了从基础到应用的全链路内容。 课程结构清晰: - PART1 从计算机视觉基础讲起,逐步深入到中阶CV、经典机器学习算法; - PART2 重点讲解神经网络与反向传播原理、CNN卷积神经网络的原理/应用/实战细节,以及CUDA编程加速; - PART3 聚焦实际应用:图像分类、两阶段与一阶段目标检测、图像分割、目标跟踪,最后以知识点总结收尾。 适合想要系统掌握深度学习CV管线、理解CNN底层原理并进阶CUDA优化
-
0
-
1求助!!!胰腺肿瘤分割模型该怎么优化,目前用nnunet训练的dice只有0.49,怎么加模块效果都不好
-
0最近在做图文多模态cv方向的实验,想在师兄的基础上再做一步实现图文多模态模型到单图像模型的跨模态轻量化蒸馏,但是尝试了多种蒸馏,结果一直不佳,问ai说是没有学到真正有价值的样本,这些和主动学习寻找有价值样本可以交叉吗?感觉很迷茫有无大佬指点
-
0资料链接:网盘链接 📖 书籍介绍:《深度学习入门:基于 Python 的理论与实现》是斋藤康毅所著的经典入门书,从零开始、不依赖现成框架地讲解神经网络与深度学习的核心原理,用 Python 手写实现感知机、反向传播、CNN 等,语言通俗、代码清晰,是公认的深度学习入门首选读物,适合想真正理解原理的初学者。 适合按目录循序学习,需要的先保存。
-
12
-
0【资源推荐】打造自媒体高效运营攻略探索AI赋能自媒体新纪元,从写作技巧到AI工具应用,深度解析如何提升内容质量与效率。学习SEO优化策略,掌握多平台运营技巧,让你的内容触达更广受众。RPA自动化工具,助力自媒体流程自动化,节省时间提升工作效率。赶快加入训练营,开启你的自媒体高效运营之路!快来了解吧! 🔗 夸克网盘:网页链接 提取码:2A59 有问题评论区留言,看到都会回~
-
0最近整理了一套非常系统的深度学习课程,分享给吧友们! 课程共100个视频,完整覆盖了算法工程师需要掌握的核心知识体系,特别适合想系统学习深度学习的朋友。 课程结构非常清晰,从数学基础(线性代数、微积分、概率论)讲起,然后是环境搭建(CUDA、Anaconda、PyTorch),接着深入神经网络原理、多层感知机、反向传播等核心概念。之后进入各大网络架构的学习:卷积神经网络(LeNet/AlexNet/VGG/ResNet/DenseNet)、循环神经网络(RNN/LSTM/GRU)、注意力
-
2
-
0
-
1想微调但只有一张卡,唯一的路就是参数高效微调。这两个名字容易混,区别其实一句话: LoRA不改原权重,在旁边挂两条低秩矩阵,只训这两条小的,显存省一大截,效果接近全参微调。 QLoRA是再往前一步:先把基座模型量化成4bit,再在上面挂LoRA。同一张卡,能带动的模型规模又大了一档,代价是训练慢一点、精度有一点点损失。 实操上几个点值得记:秩不是越大越好,跑到一定程度收益就平了;学习率要比全参微调高一档;数据集质量比条数重
-
1请问零基础想系统学习深度学习,该怎么学,求各位大佬给些建议
-
0求助:为什么语义分割segformer跑30轮预测集分数达到了81,但是测试集分数69.01,在16轮预测集78,测试集分数却能达到69.8同样我将b4换成b5后,b5前面几轮分数高于b4.但是刚好在16轮的时候分数又被反超 不知道是不是过拟合问题,我尝试过加入droupout 0.1,但是效果并不好,并没有解决过拟合 同样我在16轮结束后,0学习率EMA平滑了5轮,预测集分数涨了1.5,但是测试集却下降了0.5
-
0各位吧友,分享一波深度学习集训营第3期的完整课程资源。 这套课程共六个阶段,从数据科学比赛引入神经网络基础,系统讲解CNN/RNN/LSTM原理;第二阶段专注计算机视觉中的物体检测;第三阶段深入NLP,涵盖词袋模型、word2vec、文本分类与图像生成文本;第四阶段进阶学习BERT预训练模型、GAN生成对抗网络以及推荐系统应用;第五阶段进入实战项目,包括NLP文本分类、CV专项项目和电商平台推荐;第六阶段还有卷积/循环神经网络预习课,以及人体姿态









