level 11
刺猬中华魂
楼主
一、为什么会有质疑
质疑就是dinner,是玻璃心么?咱们不考虑那种毫无原则上来就攻击的类型。
质疑≠玻璃心。
质疑的根本原因,还是对混乱网络信息的对抗。
二、最初的起火照片

【对比图片】
在大家对回收兴高采烈的时候,另一波人却活跃起来,这是固定的常态。此时突然出现这张起火照片,而且是从那些“活跃者”嘴里,以一种嘲讽的态度说出来。对于普通大众而言,第一意识必然是“质疑”图片真实性。
三、AI的放大效应

这是我当时对上面的对比照片进行的AI分析。或许有人说“AI都这么说了”,另一些人说“AI说的也能信”。我只能说,这两种认知都是大错特错。AI回答准不准,看你问的水平。AI有三个趋向:没明确答案的问题胡诌,顺着用户话往下说,按着前文继续编。所以,问题设置、上下文污染隔离非常重要。
很显然,我这个问题设置的“非常不好”。看似尽量的保持客观提问,尽量避免对AI回答施加引导,但最终还是栽到了“详细分析地形地貌”上。导致AI回答,过度关注地形地貌差异,而非图像本身“是否AI合成”。看起来头头是道的回答,实际上还是AI的“顺话往下编”。到现在,都无法真正确定图片是否AI合成。
类似的情况,还出现在网上大量的“AI生图鉴别”上。AI鉴别AI,真的有效么?
四、调戏AI实战





这是我后来,对AI进行的“压力测试”。其实前面还有些内容。但我发现无论如何提问,AI都陷入到之前的“既定答案”中。于是开始使用这种“压力测试”强制AI跳出既定答案。
效果拔群:AI答案反复横跳,不过分析关注方向却出现了变化。这为后续建立更合理的分享方法开了个头。
【五】后期识别方法
我想到了AI扩散模型生成图片的一个显著缺点:采样算法和协调器的特点带来的“画布感”。只要是AI加工过的图片,哪怕是“加个水印”或者“什么也不做,纯粹复制一遍”,本质上仍然是用扩散模型完整的生成整张图片。

在经历长期对抗后,AI学会了分析方法。

甚至准确进行了原始照片识别。
2026年08月22日 02点08分
1
质疑就是dinner,是玻璃心么?咱们不考虑那种毫无原则上来就攻击的类型。
质疑≠玻璃心。
质疑的根本原因,还是对混乱网络信息的对抗。
二、最初的起火照片

【对比图片】在大家对回收兴高采烈的时候,另一波人却活跃起来,这是固定的常态。此时突然出现这张起火照片,而且是从那些“活跃者”嘴里,以一种嘲讽的态度说出来。对于普通大众而言,第一意识必然是“质疑”图片真实性。
三、AI的放大效应

这是我当时对上面的对比照片进行的AI分析。或许有人说“AI都这么说了”,另一些人说“AI说的也能信”。我只能说,这两种认知都是大错特错。AI回答准不准,看你问的水平。AI有三个趋向:没明确答案的问题胡诌,顺着用户话往下说,按着前文继续编。所以,问题设置、上下文污染隔离非常重要。很显然,我这个问题设置的“非常不好”。看似尽量的保持客观提问,尽量避免对AI回答施加引导,但最终还是栽到了“详细分析地形地貌”上。导致AI回答,过度关注地形地貌差异,而非图像本身“是否AI合成”。看起来头头是道的回答,实际上还是AI的“顺话往下编”。到现在,都无法真正确定图片是否AI合成。
类似的情况,还出现在网上大量的“AI生图鉴别”上。AI鉴别AI,真的有效么?
四、调戏AI实战





这是我后来,对AI进行的“压力测试”。其实前面还有些内容。但我发现无论如何提问,AI都陷入到之前的“既定答案”中。于是开始使用这种“压力测试”强制AI跳出既定答案。效果拔群:AI答案反复横跳,不过分析关注方向却出现了变化。这为后续建立更合理的分享方法开了个头。
【五】后期识别方法
我想到了AI扩散模型生成图片的一个显著缺点:采样算法和协调器的特点带来的“画布感”。只要是AI加工过的图片,哪怕是“加个水印”或者“什么也不做,纯粹复制一遍”,本质上仍然是用扩散模型完整的生成整张图片。

在经历长期对抗后,AI学会了分析方法。
甚至准确进行了原始照片识别。