大伙能说一下如今AI的各种问题到底是怎么形成的？

level 1

PRAETORIAN10 楼主

包括deepseek在内，比如AI幻觉、偷工减料、自作聪明、你让它往东它偏要往西的又蠢又倔那股劲等等。长久以来我都纳闷AI模型到底是怎么架构和训练出来的导致现在是干啥啥不行，气死人很有一套的准废物水平？

2026年02月02日 04点02分 1

level 3

南鄉客

因为至少我们能接触到的ai，它没有本质主义的那套思维模式，甚至说难听点就一会思考的自动检索+总结机器。思维模式就是统计关联词概率+训练语料，本来它就被要求强行输出价值观，再加上不少训练语料是那种新闻或者营销号文，气死人很正常

2026年02月02日 06点02分 2

level 8

chuj952

AI就是个生成文本的程序而已

2026年02月02日 09点02分 3

level 10

注意力机制问题，解决不了

2026年02月08日 02点02分 4

level 10

以及ai并没有智能，只是个概率机，根据上文猜测下文

2026年02月08日 02点02分 5

level 1

他没有活人本质的思想，比如说写文，它内部大量的训练模板与僵死的思维方式会让他有无意识都会往这个模板上靠，哪怕你千叮万嘱也没用，你喂给它的正确数据与内部的数据库就不在一个量级上，所以它只会一时遵从，过几次对话就会完全抛之脑后。

2026年02月08日 04点02分 6

level 1

逆子模式

2026年02月08日 14点02分 7