人工智能会是一场灾难吗？

人工智能，可能是人类自卑和孤独感的产物。

我们渴望创造一种类人的机器，它与人类的差异不仅仅是金属和血肉之分，更重要的，它能超越人类有限的计算能力和总被非理性控制的荒唐意志力，实现“目的—结果”简单而完美的路径。

而人类不止满足于此，我们还希望这种机器能够拥有情感，对我们有所回馈，在孤单时，成为我们的朋友、恋人、亲人。

假如有一天人工智能真的能同时满足这两种需求，它孕育的，究竟是希望还是灾难？

美国通用人工智能会议主席本·格策尔、未来学家亚当·福特、人工智能电影《NEO》联合导演道格里西欧·迪玛西奥和罗伯·米勒，一起和我们谈了谈这个事儿。

为什么崇拜人工智能？

崇拜总是源于自身的无力达成，如本·格策尔所说：“我们谈论的是一种新事物，一种远比人类更智能、更有能力的东西。”

人类智能最大的局限，就在于其与理性往往格格不入的现状。人类并不是一台纯理性机器，我们在进化过程中发展出许多内嵌的认知偏见，它们不断导致人们在解决问题过程中开小差、犯错误。

对于人工智能来说，“思考”却不失那么复杂的事情。机器能够心无旁骛地接收信息、进行处理，随后给出答案。

自人工智能产生以来，反对派一直以这样的观点驳斥它的优越性：人工智能不具有人的心灵和意识。

然而人的意识并不神秘，丹尼尔·丹尼特在《意识的解释》中就说：“人类意识只是随一种特殊的计算机运作而来的副产品。”

更关键的问题在于：假如意识所伴随的非理性恰恰会阻碍高效而妥帖地完成任务，人工智能为什么需要它？

如道格里西欧·迪玛西奥所说：“人们害怕处理，甚至害怕思考和人工智能之间的关系，是因为假如出现了一种区别于人的智能形式，那么人类智能本身的必要性就会变得可疑了。”

人工智能是体贴的小棉袄，

还是人性的屠杀刀？

人工智能并不是什么新的概念，古希腊时期就出现过类似的说法。“二战”后，阿兰·图灵被视为第一个提出“会思考的机器”的人，他所创造的“图灵测试”，至今被用来评价一个机器是否能像人类一样思考。

值得注意的是，“图灵测试”从一开始，就在评价机器智能化的标准中嵌入了“人性”：幽默感，个性特征，甚至语言风格，一部机器是否智能，要看它是否足够像人类。

无论服务于大生产还是人类生活，机器智能的最高标准，就是能够在不同情境下体贴人的需求。

对邮件进行分类整理的人工智能，是否能像可靠的秘书一样帮人节省时间并过滤出重要信息？无人驾驶的人工智能是否能在主人心情好时停在斑马线旁等待一只小狗过马路，在着急时则加速冲过去？控制智能家具的人工智能是否能预知你一天的疲惫，提前烧好一盆恰当温度的洗澡水？

然而问题来了。“高智能意味着一定程度能够思考道德问题，但并不意味着它所思考的方向符合人类社会利益。”亚当·福特如是说。

智能和道德之间的关系一直是心理学家的研究重点，许多试验表情两者之间并不具有正相关性。道德与社会社会所培养出的同情心相关，比如街边流浪汉总会乐于把食物分给他们，在餐厅用餐的中产阶级则不会；智商低的人更喜欢旁观凶残的刑罚现场，智商高的人则更爱撒谎、更伪善。

人工智能将拥有怎样的道德观？“我们无法预测。”本·格策尔说。

“未来，大生产将高度智能化，”亚当·福特说，“假如人工智能完全不考虑那些被它们所取代的人类的命运，那他们剩下的机会，真的就不多。”

何去何从？

历史已经证明，没有任何焦虑曾成功抵挡未来的到来。

“就像穴居人无法想象现代社会的各种科技发展一样，”本·格策尔说，“人性就是如此。我们从洞穴里出来开始耕种、建造第一座城市时，也没有获得未来一帆风顺的保证。人类总是在做有风险、不可预测的事情，这也是我们不再是丛林里的猩猩的原因。”

“要创造一种能够保持住人性的人工智能。”亚当·福特给出了这样的建议。

假如人工智能可以达至完美，有谁想要错过？

在此之前，人类所需要的，也许是从人性、社会制度等各个层面，重新而谨慎地定义“完美”。

文 / 胡阳潇潇

除资料图片外，其他图文版权为“Lens·重逢岛”所有

鸣谢合作机构：全球创新者大会GIC

如需转载，请联系后台