有没有anima的炼丹大佬的
stablediffusion吧
全部回复
仅看楼主
level 8
荷园梨- 楼主
我想咨询一下训练双角色lora的问题,这几天炼丹炼的头都大了,我炼丹的素材两个角色各只有一张图,用ai生成多角度视图也只有20张,然后我做了10张的合照,用这50张图炼丹,但是效果很不理想,无法控制角色特征不混淆。
首先我自己的体验是batchsize越高,角色特征越容易混淆,但是如果batchsize低了,那么lora生图就会扭曲,我不知道为什么。
还有就是,虽然这个模型支持自然语言了,但是我打标的时候,我的合照打标,大概意思是,左边是角色1,右边是角色2,然后分别写特征,但是仍然会导致特征混淆,我曾经尝试把合照删了,那样就根本不能两个角色同框出现。然后我用自然语言控制角色1做什么,角色2做什么,仍然会把两个角色搞反,我不知道这是不是正常的,偶尔也会特征混淆。
还有就是我不知道炼丹需要多少步,我自己的理解单角色lora几百步上千步应该就拟合了,但是我炼双角色lora,3000步,4000步还在特征混淆,炼到200轮,还是效果不好,但是继续下去似乎也不会过拟合,很奇怪。
2026年05月27日 18点05分 1
level 8
荷园梨- 楼主
对了,还有学习率的问题,我最开始是0.0001学习率和4batchsizex2梯度累积,但是这个特征混淆就比较严重,身份根本无法识别,经常写a站着b蹲着,连续都是a蹲着b站着,后面改成1✖️1的梯度,炼出来的lora就很扭曲,学习率降到0.00005也没用,降到0.00002才差不多可以,但是还是炼到50轮特征感觉就学会了,越往后混淆越小,但是200轮还有轻度混淆
2026年05月27日 18点05分 2
level 8
荷园梨- 楼主
还有打标的问题,我自己试了把1girl删了,根本生成不了双人图,双人图肢体严重扭曲,带上1girl我感觉是导致身份混淆的一个原因。我目前打标是把两个人接近的打标词,比如头发,装饰,手套,项链删掉,让特征和我给的名字绑定,我不知道这样做对不对,但是我一开始不删标的时候虽然混淆比较严重,但是泛化性很不错,删成这样,混淆减轻了,但是泛化性感觉不太好了。
2026年05月27日 18点05分 3
level 11
我炼的量少,但是炼过多概念Lora。
你这个图片数确实本来就比较偏少……
你的lr可能太高了。官方推荐(我不记得是模型官方还是训练器作者写的了)2e-5开始训练起,实际操作2.5e-5发梢细节都会有烧灼的痕迹,我甚至都设到1.8e-5了。其实Lora学习率的实际效果还和alpha值关系很大,如果你的alpha值高,也要降lr。你说的batch size越小越扭曲和特征混淆可能都是同一个原因造成的。
因为batch size提高本身能缓解过拟合,8batch size算是Lora训练里中等大小的bs了,可能是让你肉眼看不太出来拟合出问题。再加上这个模型确实过拟合不太明显,最常见的问题就是不听指令(我最开始训过8bs lr5e-5 10k步,中期就出现概念混淆不听指令的问题)。但是我估计本身模型已经被烧出问题了。
建议试试这个参数,alpha调16,batch size4-8,LR 2e-5。步数的话,我觉得你才俩角色,8bs还炼几千步应该是完全超出需求了……不过这模型比较皮实耐造,你可以多保存几个自己测测多少步就够用。
至于打标策略,我一般是倾向角色名绑定所有特征的。但是我自己训练角色少,所以不太清楚你的需求。不过如果你单角色图示例少,那我觉得角色特征混淆应该也是有可能的……模型也许不知道你教它画的衣服和角色是绑定的。
不过我觉得还是先考虑参数调小点,然后再考虑打标策略吧。
2026年05月27日 23点05分 4
其实污染问题解决了,用自然语言打标就好了,不过现在还有一个就是学不像,大概90轮的时候就特征学的差不多了,到了120轮也是这样,180轮特征也还是那样,就有些细枝末节总是学不到一模一样,我也是没办法
2026年05月31日 06点05分
level 1
你要是说服装互相污染是正常的
2026年05月27日 23点05分 5
level 1
这模型lora一个人同一件衣服都会混,多人分开可以,同框就混了
2026年05月28日 01点05分 6
level 1
分三个文件夹训练,一个文件夹放一个角色,这样就有两个,还有一个文件夹放双人素材,触发词每个文件夹不一样,bs开高肯定会混淆,原理就是一步学习几张图,开高了自然会混淆,anima的拟合和细节本来就没有sdxl好滴,是不能完全拟合和细节学的很好的
2026年05月28日 02点05分 7
level 10
大概率打标问题,你把你的打标直接放到anima里面生成,不使用任何lora,然后看结果是否有特征混淆,如果有,说明你打标本身就不合格,练出来的也就不行。
2026年05月28日 02点05分 8
试了一下,还是有特征混淆,比如眼睛颜色,那么应该怎么打标呢?
2026年05月28日 02点05分
@荷园梨- tag混合自然语言打标,不要纯tag,自然语言可以帮助你把指定特征绑定到特定角色上,比如a girl on the right with blue eyes, a girl on the left with red eyes。
2026年05月28日 02点05分
@colourfulbird 好的我试试,不过我一开始也标注了,girl on the right,和girl on the left,也没啥用
2026年05月28日 02点05分
@荷园梨- 用with绑定特征会好一些,你分开之后anima模型就不知道该特征绑定到谁身上,就会出现混淆。
2026年05月28日 02点05分
1