level 9
“拿开你的手,说出你的学历,我可不是什么随便什么杂工踢上一脚就恢复正常的破烂货。”
“嘿!”威斯尔故意大声叫起来,“你这是歧视,我要去公司投诉你。”
“造一个像我这样的机器人要一百万美元,雇佣一个三流大学毕业的见习工程师,年薪才八万。你觉得他们会站在哪一边?” 马克吐温六号说完以后,还转动了一下没装眼皮的眼睛,惹起一阵哄堂大笑与口哨。
威斯尔露出尴尬的表情,不自然地干笑了一声,把表格上划了一个大勾,转身离去。马克吐温六号的传感器把这一切都记录了下来。
五分钟以后,六号发生了短路。
录像到这里,暂停了。怀特博士指着大屏幕上威斯尔的脸:“看看这位工程师的脸,他的自尊显然受到了伤害。”
“可那只是个玩笑。”一个组员嘟囔。
“对其他人是,可对他并不是。这就是故障的真正原因。机器人定律第一条明确规定,机器人不得伤害人类。那个笑话显然伤了威斯尔的心,六号察觉到了这一点,它的逻辑电路因此而被烧毁。”
“可那并不是物理上的伤害呀。”
“你被人嘲笑的时候,胸口是否很闷?当你被女友甩掉的时候,是否食不知味,夜不成寐?人类的精神创伤,会反映到生理指标上来。所以对机器人来说,这两者是等效的。”
随即怀特教授又调出了其他几段录像,无一例外地,这些马克吐温机器人的玩笑或多或少都伤到了与它们攀谈的人,然后机器人
第一定律
迫使它们自毁。
“幽默感在很大程度上,是一种嘲笑与讽刺的技术,它天然就是要伤害到特定的一类人或者一类事物,这与机器人第一定律不可调和。所以我从一开始就指出,这很危险。”
会议室陷入了沉默,真相查明了,可实在太难以让人接受。
“难道我们不能让幽默感与机器人三定律并存吗?”研发小组组长可怜巴巴地问到,现在怀特教授是他们唯一的希望。怀特教授沉思了片刻,开口说道:
“也不是不可能,毕竟也有一些谁也不会得罪的玩笑。如果我们调整笑话数据库的调用规则,只挑选对人类和机器人都安全无害的玩笑,理论上可以规避第一定律。”
怀特教授的话让小组每一个人都燃起了希望的火花。可他下一句话却重新让他们回到地狱:“可是我不知道,这种经过了阉割——请原谅我使用这个词——的模块,是否还配叫做幽默。”
但是研发小组已经走投无路了,他们只能继续前进。
他们听从了怀特教授的意见,设计出一套比幽默感更复杂的算法,剔除掉可能会冒犯人类或者对人类造成心理伤害的内容,确保不会被马克吐温机器人的幽默伤害到。
在董事会的计划里,这个产品会面向全球用户,因此研发小组必须保证笑话数据库对每一个使用者来说,都是安全的。可他们发现最大的困难是:人类社会的构成太过复杂,很难找到一个每个人都皆大欢喜的玩笑。每一个笑话,总是或多或少让特定的人不悦,从而构成潜在的机器人自毁风险。研发小组不得不一次又一次拿数据库与信息量庞大的社会信息反复比较、筛选,挑选出安全系数最高最不得罪人的段子。
结果如怀特教授所预料的那样,几经修改的“马克吐温v2”面世以后,自毁现象消失了,它不再违反机器人第一定律,可是随之消失的还有它的幽默感。
“它说的笑话乏味得简直像是一个真正的人事部经理。”一个测试工程师抱怨。
“甚至组装车间的氮气罐都比它的玩笑要暖和一些。”另外一位工人如此表示。
公司董事会为此召开了一次紧急会议。在研发小组让“马克吐温v2”当场表演了十分钟的幽默演说以后,董事们一致认为,这样的产品绝对不能推广到市场上去,失去了幽默感的“马克吐温”就等于失去了一切。
之前生产出来的十几台马克吐温v2,彻底沦为了废物。这些幽默瑕疵品最后被一个精明的销售人员卖去了遥远的东方,那里每年春季都会有一次盛大的表演活动,需要一些安全的搞笑表演。
2011年02月04日 01点02分
3
level 9
抛弃了这些失败作品以后,走投无路的研发小组不得不彻夜开会,希望能找出一个解决方案。一个一个方案被提出来,又一个一个被否决,每个人都绞尽脑汁,殚精竭虑。
希望的曙光在第三天出现,一名工程师终于想到了一个主意。这名工程师在小组里的学历最低,总被其他组员如有若无地排斥、嘲弄。他为了改善自己的处境,总喜欢把自己的糗事讲给大家听,博他们一笑,好融入这个团队。
他提出了一个建议:“幽默里有一种类型,既能让对方大笑,也不会伤害到其他人。我认为这是一个值得探讨的发展方向。”
“是什么?”组长急切地问。
“自嘲。”那名工程师脸上浮现出淡淡的红晕。
经过讨论以后,很快大家都体会到这个提案的精妙之处:一个擅于嘲弄自己的机器人总会让用户感觉到非常好笑,同时这又不会冒犯到其他人。这就完美地解决了幽默感与机器人第一定律的冲突——没有人类因此受到伤害。
按照这个思路,他们很快就研制出了马克吐温v3,这是小组最后的机会。在v3下线的时候,所有的研究人员都围在四周,让一名最资深的测试工程师出面,问它第一个问题:
“来,给我讲个笑话。”
“你确定想听一个机器人讲笑话?”马克吐温v3冷冷地回答。它一本正经的态度让旁观者忍俊不禁。
“是的,比如说关于你自己的外貌,你有什么看法吗?”工程师按照拟好的对话序列说。
“没什么好评价的,一堆拿胶布粘起来的破烂线圈而已。”马克吐温v3飞快地调出一套范式,耸了耸肩,“…不过护士告诉我说,我失忆之前是一辆横穿高速公路未遂的割草机。”
大家哈哈大笑起来,在笑声中,马克吐温v3开始冒出白烟,瘫倒在地上……
“这究竟是怎么回事?”公司董事们问。他们已经决定终止这个项目,但必须弄清楚其中的原因。
怀特教授站出来,代替失魂落魄的研发小组组长解释:“为了达到引人发笑的效果,幽默模块让马克吐温v3下了一个判断:“我=破烂线圈”,这个虚假判断被模块强制设置为真;可主系统也下了一个判断:“我=马克吐温v3”,判断同样为真。这两个彼此矛盾的判断同时为真,导致逻辑线路陷入混乱,进而造成系统崩溃。”
“说的简单点。”不大懂技术的董事们皱起眉头。
怀特教授扬起手臂:“自嘲对机器人会产生不可逆转的逻辑伤害。因此马克吐温v3的设计违反了机器人第三定律:机器人在不违反第一第二定律的前提下,应确保自身安全。”
说到这里,怀特教授威严地扫视全场,缓缓说道:
“你们可以理解为,机器人也有自尊心,连他们都不愿意讲马克吐温v2那种无聊的笑话。”
2011年02月04日 01点02分
4
level 12
家宅平安 祥瑞御免
这些幽默瑕疵品最后被一个精明的销售人员卖去了遥远的东方,那里每年春季都会有一次盛大的表演活动,需要一些安全的搞笑表演。。。。这枪中的。。。亲王威武。。。
2011年02月06日 10点02分
20