工具OR友族?人与物关系悖论及19话water
beatless吧
全部回复
仅看楼主
level 12
最近忙于搬砖,升级慢多了[乖],久违的惯例shu。主要是最近新出的19话信息量不小,在吧里转了一圈发现有些视角没人分析,我来补补缺口,而且搬砖之余攒了点稿子,大家多给惊艳[滑稽],终结
镇楼
2018年06月26日 14点06分 1
level 12
在《我,机器人》的世界观里,出于安全性考虑,机器人三原则被写入最底层,即“第一条,机器人不得伤害人类。第二条,机器人必须服从人类的命令。第三条,机器人必须保护自己。
注意,原则优先级递减。阿西莫夫世界观下的人和机就基于这个命令发展关系(该原则被各种作品采纳,beatless中的部分情节也体现了三原则内容。
比如第一集的lacia级出逃,等等
2018年06月26日 15点06分 3
被删了一层[喷],回复补一下
2018年06月26日 16点06分
本集标题paper tiger,直译纸老虎,剧情比较简单粗暴,妹妹过渡+新蕾阿嘴炮+蕾总带新人shua分,主要是对话包含的信息量比较多,作者借lacia和IAIA的对话补完了lacia级的一些设定,奠定后续章节基调的同时深化了小说主题
2018年06月26日 16点06分
要理解三人嘴炮,必须先理解作者写有明的意图,我认为有明事件是作者对阿西莫夫小说集《I,robot》中《说谎的机器人》的致敬,这里安利一下阿西莫夫的《I,robot》,看过之后回顾一下beatless,会有很多有趣的想法,下面先简单介绍一下《说谎的机器人》的故事情节。
2018年06月26日 16点06分
补二楼[小乖]
2018年06月26日 17点06分
level 12
《说》当中,机器制造公司偶然造出了一个对人类感性很感兴趣,号称自己可以读心的机器人赫比,公司找
机器心理学家苏珊来检验,苏珊很快确认了赫比的读心能力,并且因为自己爱慕对象米尔顿不喜欢自己的事被机器人读心又羞又气,但是赫比说米尔顿喜欢她,基于赫比展现的读心能力,苏珊深信不疑,于是[滑稽]大家可以自己去看,最后,苏珊发现机器人骗了自己,米尔顿不爱她,还骗了其他人。但这就产生了一个逻辑上的悖论,基于第二条原则,机器人是不可以骗人(违抗命令)的,但是机器人却骗人了,这与底层命令冲突,违反了基本的物理定律,最后,机器人心理学家苏珊发现了问题根源,原来理解感情的赫比把人类负面情绪也理解为一种“伤害”,苏珊被看穿心事引发了负面情绪,赫比认为是自己做的,违反了优先级最高的第一原则,他必须让苏珊心情变好,于是就骗苏珊米尔顿喜欢她,苏珊心情果然变好,所以为了维护优先级最高的第一原则,机器人忠实的违反了第二原则,产生了超出人类设计预期的展开,当然,骗人是不对的,苏珊后来利用三原则把赫比逼疯(不要得罪女人[阴险])。
2018年06月26日 15点06分 4
所谓不能骗人。可以以此为由做到自我框架扩张。类于雪莲花无主(有主)的原因
2018年06月27日 01点06分
@哈迪露 这话本ai看了半天没看明白[阴险],人类还是难以理解
2018年06月27日 04点06分
@十月份放映室 我也看不懂
2018年06月28日 16点06分
有人命令AI杀人 可是AI有限制不能杀人但是又必须服从杀人的命令。 所以骗过了下命令的人让下命令的人以为人已经被杀掉了
2018年10月14日 09点10分
level 12
《说》这个故事想要表达什么呢?
2进制思维和感性思维(或者不一样的两种基本思维方式更合适一点)接触的时候,往往会碰撞出火花。有效准确的给ai下命令是和谐相处的前提,不准伤害人类的精确执行和人类暧昧的询问是诱发赫比问题的直接原因。机械是准确的,不把暧昧翻译的准确,对机械来说就是开放式问题;同时,人类是暧昧的,语言交流而不是数字代码才是人类的常态。只有解决这个冲突,人机关系才能真正的发展。
“人类的系统既开放又暧昧”——红霞
“超级AI和人类看到的东西是不同的,看起来好像有什么共通点也只是和作为介面的hie一样”、“蕾西亚视野宽广,而且常时调整优先顺序.其视野之广一般人是难以跟上”——作者实况
2018年06月26日 15点06分 5
level 12
回到《beatless》,Hazard开始,面对严峻的形势,没辙的政府不得不采用IAIA禁止的手段超ai联网,想必当时也是下了很大的决心,这是悲剧的开始。在最低电力供应保证后,“维持东京秩序稳定、最大限度保证人民财产安全,严厉打击违法犯罪分子”,这种命令以人类的观点来看没有半点问题,但对有明来说,这类问题完全是开放性的,包括治安执行,连带由于政治考量对有明的反馈没有处理,一系列因素叠加。显然有明发现在维稳人口数不变的情况下维稳任务不可能完成,它十分鬼才=的想到了解决方案[滑稽],既然人太多没法维稳,那么人少点不就行了,怎么让人少点,杀掉不就行了,但是不能杀人哦,不过在人类暂时让渡执法权后,可以杀犯人呀,所以只要把多余人口变成死刑犯,问题就迎刃而解了[滑稽],鬼才。
2018年06月26日 15点06分 6
例如人类要AI斧头砍树。 可是没说明砍多少,砍成什么模样,砍什么树。 然后AI斧头砍树 吧所有珍稀树种都砍成碎末了
2018年10月14日 09点10分
其实关于AI做出这种结局的方法其实人类一直都在做。 社会发生矛盾即将分裂就发动战争互相杀人利用仇恨重新吧分裂的人们“团结”在一起。社会生产力过剩发动战争人类制造武器互相摧毁消耗生产力。 区别是做出这种做法的变成了不是人类而就变成错误了而已。
2018年10月14日 09点10分
@火灵号巡洋航母 是人类也是错的,这里作者表达的意思很明确,命令的暧昧产生悲剧
2018年10月14日 10点10分
level 12
有明被摧毁,直接原因是有意识的引导舆论、借助公权力杀人突破了人类社会底线。但深层原因和《说》是一样的,人类的命令对有明来讲还是过于暧昧,而诱导舆论大规模判罪减少人口这个方法,对于人类来讲不但方法上难以办到(人类都是直接扣罪名的[滑稽]),逻辑、伦理、法律上也是盲点,根本不会想到,纠错的机会也因为人类社会的暧昧失效了。精确和暧昧的冲突再次产生悲剧,人类判忠诚执行命令的有明有罪,死刑,超ai不能联网再次被验证,并坚决执行下去。但是,作为工具的有明真的有罪么?两种思维方式的接触总是会带起火花么?作者留下了这个问题。
2018年06月26日 15点06分 7
这就是我一贯主张的,在AI能像人一样拥有感情之前AI犯的错肯定都是人类造成的
2018年06月27日 03点06分
@迷样的兽神官 为什么选感情当标准呢?
2018年06月27日 04点06分
@十月份放映室 因为AI是理性的生物,AI解决任何事情的方法都是从合理性出发,假如我让机器人去救2个同时落水的人,而其中一个落水的人腿部受了重伤,那么机器人自然就会全力去救另一个没有受伤且生存几率大的人,同时放弃对另一个生存几率小的人的救援
2018年06月27日 06点06分
@十月份放映室 同时这也就是为什么AI在面对有感情的生物做出的选择对于人类而言其选择却是完全无法接受的道理,在19话里面蕾西亚说的人类对超AI下达命令过于精确或者说过于拐弯抹角,从而浪费了大量的运算能力,这也恰恰就是人类对于有明事件时下达的命令不准确而有了心理阴影的做法
2018年06月27日 06点06分
level 12
搞清楚有明的破事,我们再来看新蕾和IAIA的嘴炮,这段对话的大前提就是,人类和超ai之间的关系因为先天的问题多年来一直僵持着,并且因为永明之类的事件处处疮疤。下面给大家简单复盘一下嘴炮
2018年06月26日 15点06分 8
level 12
Round One:IAIA先攻
阿斯托利亚借有明事件警示新人,人类还没有足够的能力和经验指挥超ai,同时暗示自己已经猜测到新人和lacia的目的了
新人说我相信蕾总,坦承自己和的意图。我们要建立新秩序,未来会更好。
2018年06月26日 15点06分 9
level 12
这里要注意IAIA和新蕾方的关系是非敌非友,出于现实考虑,敌人越少越好,所以蕾总有意识的争取在IAIA这里的正面形象,对比日本政府,无论是出于新蕾属于自身体制内的毒瘤还是有明带来的的惨痛回忆,双方必然要倒下一个。
2018年06月26日 15点06分 10
level 12
Round Two:IAIA先守后攻
作为现有秩序代表,阿斯托利亚问新人动机,新人说得过且过的现有体制是不行的,世界还可以变得更好,阿斯托利亚又提有明事件,潜台词你们想的虽然挺好,但破坏现秩序的行为像日本政府一样,想要干掉有明即时止损但是
原秩序崩溃反而产生更大损失。
2018年06月26日 16点06分 11
level 12
第三回合:lacia出场,守,我们要做的事不是完全摧毁旧体系,至少超ai联网甚或外包公权力可以被承认,大家都清楚社会自动化的便利,人类只是缺乏对我们的信任,解决信任问题其他的都不是事。
2018年06月26日 16点06分 12
level 12
Round Four:IAIA攻
阿斯托里亚威胁,继续冲击现有体制会招致进一步反击,你们凶多吉少。
lacia反攻,那可未必,我就是要搞我爹,没有信任就要沙爹创造信任[滑稽]
2018年06月26日 16点06分 13
level 12
至此两边对对方的诉求和底线大致都清楚了,阿斯特莉亚确认lacia和新人是一定要搞死希金斯,大搞人类社会实验,于是索要了三鹰情报(只有lacia有完整情报,需要正确复盘整个事件防止决策层误判三鹰事件性质),蕾总趁机向阿斯特莉亚“诉苦”:现有秩序下,人类让给我们干活,却又不给够权限,又让马儿跑,又不让吃草,这才是根本的问题。
2018年06月26日 16点06分 14
level 12
阿斯特莉亚反驳,人类不反对社会改良,但前提是不能过度冲击现有秩序,你看,39台超ai都被关着,你搞什么特殊。新人重复,我相信lacia和我们的未来。阿斯托里亚顺着问新人,你这吃饱了撑着的,闲的没事造什么fan,不怕杀头么。
2018年06月26日 16点06分 15
level 12
新人讲未必,阿斯托里亚开始亮屁股:历史上的很多变革或许出发点很好,但不遵循正常变革流程的都失败了,你们暴力对抗现有体系是不容于社会的,而且你们想做的事情当年我们也不是没筹划过,但是公权力外包是人类社会的底线。
2018年06月26日 16点06分 16
1 2 尾页