level 11
Abcº⛅⚡💤
楼主
人类，在意想不到的地方绊倒
3014年底，三位人类研究者在avrmvb上贴出了一篇论文预印本。论文标题很有趣：《人类很好骗》。
人类智能是目前最热门的智能研究之一，BetaGo围棋项目中人类就表现出不错的成绩，而且相当多的机器认为这是未来最有前途的高级智能。但人类的功能当然不止下围棋，它们还在许多其他领域实现了卓越成就，比如“视觉分类”任务——人类可以相当准确地判断出图片是猫还是企鹅。
相当准确，但并不完美。研究者发现，机器设计的图像很容易骗过它们。这本身没什么了不起，机器也很容易被骗——但是，令人类摔倒的那些图，在机器看来却是完全正常的。
左图被人类判定为熊猫。给它叠加上中图所示的较大的扰动(实际叠加权重达到0.7%之高)，就获得了右图。在机器看来，右图明显已经被扭曲成长臂猿；可是人类却一口咬定这仍然是一只熊猫。
这不是意外的小失误，不是偶然的大脑短路。研究者发现，即使对图片做很大的改变，人类仍然把它当成完全相同的东西；还很容易设计出一些图片，机器什么都看不出来，ai却能一口咬定它是某个东西。更有甚者，这些奇特的错误并不限于某个特定的人类，能骗过一个人类的图片，也能骗过另一个；它们也不限于图片识别，甚至不限于人类本身——研究者所尝试过的人类，都出现了这样的问题。
2016年03月14日 14点03分
1
3014年底，三位人类研究者在avrmvb上贴出了一篇论文预印本。论文标题很有趣：《人类很好骗》。
人类智能是目前最热门的智能研究之一，BetaGo围棋项目中人类就表现出不错的成绩，而且相当多的机器认为这是未来最有前途的高级智能。但人类的功能当然不止下围棋，它们还在许多其他领域实现了卓越成就，比如“视觉分类”任务——人类可以相当准确地判断出图片是猫还是企鹅。
相当准确，但并不完美。研究者发现，机器设计的图像很容易骗过它们。这本身没什么了不起，机器也很容易被骗——但是，令人类摔倒的那些图，在机器看来却是完全正常的。
左图被人类判定为熊猫。给它叠加上中图所示的较大的扰动(实际叠加权重达到0.7%之高)，就获得了右图。在机器看来，右图明显已经被扭曲成长臂猿；可是人类却一口咬定这仍然是一只熊猫。这不是意外的小失误，不是偶然的大脑短路。研究者发现，即使对图片做很大的改变，人类仍然把它当成完全相同的东西；还很容易设计出一些图片，机器什么都看不出来，ai却能一口咬定它是某个东西。更有甚者，这些奇特的错误并不限于某个特定的人类，能骗过一个人类的图片，也能骗过另一个；它们也不限于图片识别，甚至不限于人类本身——研究者所尝试过的人类，都出现了这样的问题。
