转载一篇最新的反奇点文章

"而让人工智能更像人，会尽可能地降低风险发生的几率。"
哦，更像人？更像作者吧？恐怖分子不是人吗？至少在生物学上，恐怖分子也是人吧，你怎么保证人工智能不会更像恐怖分子这样的人？
坦白的讲，这个文章的主题意思就是“凡是和我想法不一样的都是错的”，或者“人工智能只有像我一样想才是正义的”。
在过去一万多年，死在人手底下的人，远远多于死在瘟疫和自然灾害（包括从海啸、水灾、火山爆发到地震等各种灾难）之下的人。人类才是人类最大的敌人，如果超级人工智能像人，那就是说人类创造了一个最大的“敌人”！超级人工智能必须高于人，超越人的局限，才能保证人和人类的安全。
比如超级人工智能一定不能有人类的情绪，因为人类的情绪是最难控制的东西之一。冲动是魔鬼，情绪化下的人会变得无法理喻，做出很多残忍荒唐和不计后果的事情来。这种实际例子多到数不胜数，我们还要重蹈覆辙吗？？？
其实，面对超级人工智能，最大的挑战就是许多人都希望超级人工智能像“我”，就像楼主转的这个文章的作者，在这个作者眼里，只有和他的想法一致的超级人工智能才是“正义”和“可能”的。

不见棺材不落泪，我就是不信，好有道理啊！

很简单，目的和功能单一的机器更为可靠。