科幻情节将成现实 人类必须尽早定义与AI的关系

　　网易科技讯11月14日消息，据TechCrunch报道，自从数学家艾伦·图灵（Alan Turing）1947年在伦敦演讲中首次公开提出计算机智能的改变年以来，人工智能（AI）已经让人类为之痴迷了半个多世纪。最近，日益强大的AI不断出现在各类媒体头条中，无论是谷歌AlphaGo击败人类围棋大师李世石（Lee Se-dol）、微软AI聊天机器人Tay发布种族歧视言论还是机器学习领域的其他最新进展等。一旦科幻故事中的情节成为现实，人类必须尽早定义与AI的关系。

　　人类长寿公司联合创始人、副董事长彼得·迪亚曼迪斯（Peter Diamandis）最近在职业社交网站LinkedIn上撰文，以“下一场性将被数字化”为题，阐述了人类与AI之间的关系。迪亚曼迪斯指出，最近有报告显示，日本人越来越多地放弃性生活与爱情，而喜欢虚拟女友的男性却越来越多。

　　迪亚曼迪斯还说：“这还仅仅是个开始。随着虚拟现实（VR）变得越来越流行，其主要应用将不可避免地涉及到VR领域，那将是更激烈、更生动以及更令人上瘾的体验。此外，随着AI在网络上的拓展，我认为有AI支持的化身、与机器人相恋的情况将越来越多，就象电影《她》和《机械姬》中描述的情景。”

　　迪亚曼迪斯真正的意思是，他认为人类将开始与AI机器人形成更亲密关系吗？这并不难令人相信，因为已经有证据显示日本男性的确偏爱虚拟女友，但是我们如何开发接近真实人类的化身呢？

　　为了回答这些问题，我们首先必须理解AI到底是什么，AI在公共世界到底代表着什么。目前有两种基本类型的AI，即强势AI和弱势AI。

　　其中，强势AI正处于不断进步中，其终极目标是制造出与正常人类在智能方面几乎没有区别的机器。麻省理工学院AI实验室的约瑟夫·魏岑鲍姆（Joseph Weizenbaum）表示，强势AI的最终目标是以人为模型制造机器，它拥有自己的童年，可以像孩子那样学习语言，通过用自己的感官感知世界并获得知识，最终可像人类那样思考。

　　强势AI也是我们在电影中常见的AI类型，比如《终结者》中背叛人类开发者的天网系统或《2001：太空漫游》中的HAL 9000等。有人预测，如果这种超人智能成为可能，我们将触发“奇点时刻”。但这种AI可能还需要很长时间才能完善。

　　弱势AI也是你在新闻报道中常见的AI类型。任何与形容词“聪明的”搭边的东西，都可以归入弱势AI的范畴。这种AI可以“学习”，甚至能够找到自己写代码的方式，但其功能仅限于执行很少的任务。

　　弱势AI包括能够驱使智能汽车的程序、能够为我们提供客服的聊天机器人以及上文提及的AlphaGo等。这些系统内部存在着“微世界”的界限，这个界限只有AI能够识别，此类AI可以在某个领域被认定为“专家系统”。但是这些系统没有“常识”，或无法理解它们应如何适应更大的背景或超越“微世界”的世界。它们本质上就是专注于某个领域的复杂输入/输出系统，基于这些缺陷，它们很容易与人类智能区分开来。

　　专注于类似人的输入/输出系统，似乎正获得社会对AI的更多关注。除了作为人类与其他人交谈的能力，没有比这衡量人类智能幻觉的更好方式。实际上，这就是为何我们总是特别强调将图灵测试作为确定某个系统是否具备AI最佳方式的明显证据。如果程序能够与人类互动，并通过测试，它就可被称为AI。

　　如果无法通过图灵测试，即使其接近通过，我们也会知道，屏幕另一端的互动对象是假的，已经丢失看对话的真正本质。然而，即使我们知道正与AI对话，AI能够熟练地引导对话，我们也经常惊讶与人类的互动感觉，我们可能会暂停怀疑，并忘记我们正与机器对话。

　　不幸的是，即使在AI被设计服务的“微世界”中，AI也经常无法通过对话测试。我们几乎每天都能看到聊天机器人，微软和Facebook都已经于今年年初推出了聊天机器人产品，许多公司也开始转向这种技术用于帮助提高客户参与度，但是Salesforce指出，聊天机器人过于简单，还无法成为必须品。解决聊天机器人问题的唯一方式就是让这些系统的行为更加像人。

　　聊天机器人和AI的接口方面还不太完善。看看Siri或小娜，从技术上说，这些都是可被称为虚拟助理的聊天机器人。随着时间推移，它们将会变得越来越先进。但是这些聊天机器人都未能通过图灵测试，即使它们能够通过，也不能说这些机器拥有智能或感觉，因为它们并不能真正理解对话的意义。就像早期斯坦福大学的通信程序Eliza和Parry，它们都需要预先编程，只是对模拟对话做出“罐头式反应”。对于哲学家奈德·布劳克（Ned Block）来说，这些系统并不比自动点唱机更聪明。

　　但是在某种程度上，我们必须自问：人类为何愿意开发弱势AI？如果不了解弱势AI与强势AI的区别，什么样的心理可能影响到几乎与人类相同的聊天机器人的部署？

　　提供在线信息疗法的公司TalkSpace作家约瑟夫·劳奇（Joseph Rauch）表示，需要在工作中验证人性。他写道：“我们经常听到潜在客户宣称，他们希望能够确定与其对话的是人类治疗师，而非聊天机器人。我们的所有治疗师都有资格证书，是有血有肉的真正人类。但我们理解客户的担忧。无论是在线疗法、社交媒体还是网络约会，每个人都希望与真人建立起联系。”

　　劳奇谈及网络约会，这个领域的聊天机器人已经开始诱骗人类加入其附属网站，甚至其存在只为了吸引更多男性。但是如果这些聊天机器人被用于商业会如何？以Legion Analytics推出的聊天机器人Kylie为例，它可以理解简短对话，将话题重新带回到此前提及的问题上，甚至可以应对受到的调侃。

　　如果这样的聊天机器人变得足够先进，人们会觉得受到操纵甚至受到侵犯吗？毕竟，机器似乎比他们自己更了解他们。特别是与普通人类相比，这些聊天机器人真的更胜任推销产品吗？要实现这些目标，显然还需要很长的路要走，但是如果聊天机器人精通对话，并且可连通拥有你的完整心理信息的数据库，它们可能利用合成信息加强说服力，这是普通人所不具备的。

　　当然，真正赋予弱势AI人性的方法就是教授其理解情感，至少要教会其模拟情感。弗雷泽·克尔顿（Fraser Kelton）创建的Koko公司正打算这样做。克尔顿表示，需要向聊天机器人提供更多人类感受，我们正努力为任何语音或消息平台提供换位思考服务。我们认为，在你与电脑对话的世界里，这将是关键的用户体验。Koko公司的同情API可与任何聊天机器人虚拟连接，为机器人安装“心脏”。

　　AI理解人类情感的细微差别还有其他好处。JAMA最新研究显示，在回答用户抱怨的敏感问题时，Siri等智能手机助理的表现非常差。甚至当用户寻求、性骚扰以及性的帮助时，它们还会嘲笑用户。在有关未来20年医疗保健的研讨会上，西北大学DAmore-McKim商学院副教授卡尔·内尔森（Carl W. Nelson）指出，在保密性和隐私方面，大数据也存在挑战，但可被用于引导决策或作出判断。没有对人类情感的恰当理解进行引导，如何能够利用AI快速完成医疗诊断？

　　为此，即使弱势AI也需要理解甚至模拟情感，但我们可能开发出“有缺陷系统”，即其可假装识别出人类病情，可能暗示用户产生的情绪反应，甚至可给出“罐头式回应”。对于那些对于聊天机器人知之甚少的人来说，它们能被称之为AI机器人吗？

　　随着时间推移，这些技术将继续令我们感到震撼。我们看到更多有关AI机器人的电影和电视剧，毫无疑问，我们绝不会再将这些东西只视为科幻小说中的元素，而是开始想知道它们何时能成为现实。《银翼杀手》等电影很久以前就提出了这些问题，最近Android Dick项目取得的进展，都让我们意识到，我们应该尽早应对AI产生的伦理问题。

　　伦理问题并非这些AI是否真的能够感觉或是否拥有权利等问题的核心，最引人关注的是，对于人类来说，它们会产生何种后果？举例来说，你如何向孩子们解释，这些与人类几乎毫无差别的管家并非真正的人类，你把它们丢进垃圾桶没关系？即使杀死或它们也没问题，因为它们并非真人，也不会反抗？何时模仿生命或变得与人类生命同样重要？

　　随着时间推移，这些都是我们必须要解决的问题，但它们还没有简单答案。最后，我们必须尽快定义与AI的关系，找到强势AI与弱势AI之间模糊的界限。我们希望在我们正开发的类人机器中，我们能够了解更多人性，同时加强人性，而非放弃人性。（小小）