论“不可替代性”--atri心的本质
atri吧
全部回复
仅看楼主
level 11
谨以此文献给所有挚爱atri及人机恋题材作品的吧友们
2024年04月27日 16点04分 1
level 11
1如果要创作一个机器人与人类恋爱的作品,那么给机器人赋予“不可替代性”是必须的桥段。相信各位吧友对atri里,夏生第一次看到atri日志时的场景印象深刻,atri被命令“不要使用学习的表情”之后,变成了非常符合大众刻板印象的机器人形象:语气机械化,没有表情和情感。这段剧情的内核,就在于剥夺atri的“不可替代性”。既然你atri和每一个仿生人一样,都是靠学习模仿来表现出所谓“情感”,那你又和其他的仿生人有什么区别?我为什么要把你看做是与我平等的人?我是你的主人,我想让你干什么你就要干什么。
2024年04月27日 16点04分 2
level 11
2但随后的剧情说明了,atri是第一个“拥有心”的仿生人,可以越过三原则行动,丢到大街上对她说“按照你想的去生活吧”也会行动起来。与之相反的是BE,atri彻底失去情感和记忆,也就是彻底剥夺了“不可替代性”,成为一个和别的仿生人一样的“可替代”的仿生人。
2024年04月27日 16点04分 3
level 11
3得益于2021年底以chatgpt为首的大语言模型的井喷,我们可以更方便地去理解“不可替代性”。首先毫无疑问地,人具有“不可替代性”,人的记忆难以篡改,思维方式由经历过的每一件事决定,同时人格也无法读取与复制,这也可以被称为是独一无二的“心”。那么以同样的视角去审视atri,以上人类的特征均符合atri,唯独有一条例外:atri作为仿生人,人类主人对atri有完全的命令权力。
2024年04月27日 16点04分 4
level 11
4如果夏生真的对atri拥有完全的权力,那么atri是否还具有“不可替代性”呢?这个问题可能有点突兀,让我们来设想一下:夏生命令atri抛弃一切情感表达,成为一个没有情感的机器人,那么atri会忠诚地执行命令,还是会表面上遵守命令,在“内心”默默哭泣呢?按照剧情,答案可能是后者,但是真正的结果是什么,我们无从知晓。这里我们就可以看到剧情编排的妙处:作者巧妙地避开了夏生会以主人身份下达对atri有损害的命令的情况,从始至终夏生都尊重atri的“不可替代性”,即使看到atri日志之后主观地认为atri没有情感,也没有去以主人的身份伤害atri,而是不变地怀有对atri的爱(夏生真是亚撒西)。
2024年04月27日 16点04分 5
level 11
5再看没有“心”的仿生人,他们与atri的区别,远远大于与chatgpt的区别,顶多可以算是搭载先进大语言模型的多模态人形机器人。导致这种结果的最大原因就是他们不具有“不可替代性”。如果你和任意一个大语言模型玩过角色扮演,无论是Claude还是gpt还是文心一言,你都能感受到人类对这些语言模型有绝对的支配能力,自己无论如何都很难把运行在语言模型里面的角色看做是与自己平等的存在,自己只要动动手指就能删除或者篡改这个角色的经历和性格。除非你和日漫男主一样亚撒西,不然无论是gpt还是仿生人,都是可替代的玩具罢了。
2024年04月27日 16点04分 6
level 11
6接下来就要讲到剧情里嘴炮之王安田。安田认为atri的情感只是拟态,从安田嘴里可以得知仿生人没有流泪的机能,但是安田看到atri哭泣以后改变了想法。【lz对这段剧情的处理并不满意,逻辑上漏洞很大。从前面的剧情可以知道atri的眼泪是清洗作用,那么表达出悲伤的情感并流泪也可以是一种拟态,并不能作为atri拥有心的证据,安田这段的剧情完全就是让安田作为工具人推动atri的转变,安田本人的塑造极其低智】
2024年04月27日 16点04分 7
我认为这里没有问题🤔因为安田之前向亚托莉下令不要装作人类,机器人不能违抗人的命令,这也就意味着哭泣不是模拟的结果,只可能是亚托莉真的拥有自我意识
2026年02月27日 16点02分
level 11
7这段剧情里安田与夏生的交锋,主要围绕“仿生人是否拥有心”展开,虽然通过眼泪哭泣什么的来判断略为幼稚,但往深层来看,“仿生人是否拥有心”的本质其实就是对“不可替代性”的判断。结合上文分析以及剧情走向,夏生与atri的关系经历了“高低高”的过程,「先是夏生主观认为atri拥有“心”,在与atri的交往中不断加深羁绊」,「再到日志事件让夏生对atri失望,以认为atri没有“心”,即否认atri“不可替代性”的前提下与atri交往,但是atri的种种迹象表明了atri拥有“心”」,「最后安田事件发生,夏生再度肯定了atri拥有“心”,并且以主人的身份命令atri无需扮演机器人掩饰情感,解除了atri一直以来的出厂限制,到此atri真正拥有了“心”,并第一次完全地对外界展现了自己的“心”」。
2024年04月27日 16点04分 8
level 11
8那么,跳出原作的故事框架,从严格逻辑的角度来讲,atri是否真的有这么特殊呢?atri原作中的文本总以模糊的“心”的概念来代称情感 人格 记忆等抽象概念,如果把“心”具象化为“不可替代性”的话,假设一个情景:lz以主人身份命令一个atri外观的仿生人陪一位幸运吧友共度余生,在此过程中要拟态人类行为与情感,不能表现出机器的特征,同时通过特殊手段让此仿生人可以绕过三原则,那么对于幸运吧友来说,这个仿生人是否具有了“不可替代性”?然后,如果有一天邪恶的lz以主人身份再次命令此仿生人清除一切情感拟态并忘记以前的一切事情,那么这个仿生人还具有对幸运吧友的“不可替代性”吗?
2024年04月27日 16点04分 9
level 11
9上面的问题有诸多答案。但对于这个问题,lz的答案是“鸭子定律”:如果走路像鸭子、说话像鸭子、长得像鸭子、啄食也像鸭子,那它肯定就是一只鸭子。带着这个定律回到剧情,夏生和水菜萌等人明显是相信“鸭子定律”的,这也是普通人对仿生人的普遍态度。既然我不懂仿生人是如何运作的,那么仿生人就是人。夏生作为知识分子在此基础上更进一步,探寻了atri的过往以及思维方式,认定atri拥有了完全拟人的情感与人格,即拥有了“心”,这在仿生人历史上肯定是开创性的,所以atri具有其他仿生人没有的“不可替代性”。
2024年04月27日 16点04分 10
level 11
10但是正如上文所说,如果夏生是个超级大反派,命令atri屏蔽一切情感,atri会不会变成没有“心”的状态,从而失去“不可替代性”?又或者直接BE,atri失去记忆与情感,毫无疑问失去了“不可替代性”。所以安田极力认为atri的所谓“心”只是拟态的结果,所谓情感只是程序运算导致,是程序bug导致了atri突破三定律限制。安田的说法有一定道理,但是其逻辑上存在谬误。正如夏生所说,atri与人类一样也是在各种事情中学习情感为何物,人类生下来的时候也不会懂情感是什么,那么人类也没有“心”吗?(这么简单的道理安田本来应该懂的,但是安田是纯工具人,所以这个道理就交由男主角夏生揭示了)
2024年04月27日 16点04分 11
level 11
11所以正如lz所说,安田的角色刻画极其低智,如果让lz成为安田的话,lz还是会坚持“鸭子定律”,并且lz认为每个仿生人甚至是gpt都具有一定条件下的“不可替代性”,每个存储不同记忆与思维方式的仿生人,都是独一无二的。
2024年04月27日 16点04分 12
level 11
12也就是说,lz认为,即使是一件破破烂烂的T恤或者是一个碎的杯子,都有广义上的“不可替代性”。即使对于普通的仿生人,与其经历一段独特的时光之后,在主人不以上位者身份命令其做会损伤“不可替代性”的行为时,也是具有“不可替代性”的,如今一些与语言模型平等沟通的人就是如此行为,但是这种“不可替代性”是脆弱不堪的。但到atri这里,atri已经可以抵抗外界对其的命令,可以突破三定律的约束,拥有了主观能动性,再加上夏生与其无尽的羁绊和回忆,atri无疑具有了相对于普通仿生人更进一步的“不可替代性”。要摧毁atri的“不可替代性”的难度已经比肩摧毁一个人的“不可替代性”,甚至主人夏生下命令让atri屏蔽情感,atri都不会遵守。所以,atri从始至终都拥有“心”,无论是在和夏生母亲相处时还是和夏生相处时,甚至atri被创造出来时就拥有“心”,只不过在校园霸凌事件里才第一次对外界表露,而直到天台安田事件后atri才第一次直面自己的“心”并像人一样对外界展露“心”。
2024年04月27日 16点04分 13
level 11
写的有点乱,手机码字没有草稿框架,如果能看完的话感激不尽[滑稽]
2024年04月27日 16点04分 14
level 11
自顶,怎么没人看[泪]
2024年04月28日 04点04分 15
1 2 尾页