求助一下,为什么我两个矩阵相乘会出nan
pytorch吧
全部回复
仅看楼主
level 1
团长的jiong虚
楼主
rt,矩阵是归一化的
2023年12月08日 13点12分
1
level 11
sealed_ss
输出看一下
2023年12月08日 15点12分
4
团长的jiong虚
看了,谢谢,解决了,是一开始初始化没除维数导致溢出了。😓现在又有新问题了,有时候会oom但是显存明明还有很多,比如测试了几个功能后再跑原来的一个函数就会出oom
2023年12月09日 06点12分
sealed_ss
@团长的jiong虚
如果是windows的话可以一直开着任务管理器看内存和显存占用
2023年12月09日 09点12分
团长的jiong虚
@sealed_ss
有没有初始化内存和显存的方法,每次碰到这种情况都要重启
,不得不说torch的资源回收器是不是不太行啊
2023年12月09日 09点12分
sealed_ss
@团长的jiong虚
torch.cuda.empty_cache()这个函数可以清理掉cuda缓存
2023年12月09日 09点12分
1