关于爱丽丝和鲍勃的一些事

具有创造性语言技能的机器人抓住了大众的想象力。他们也重新点燃了对机器人末日的担忧

爱丽丝和鲍勃,爱丽丝和鲍勃 Facebook,Facebook 机器人,人工智能机器人爱丽丝和鲍勃,这两个 Facebook 机器人由于意外的编程逻辑缺陷而声名狼藉,它们是构建谈判机器实验的一部分。 C R 萨西库马尔

互联网上充斥着充满毁灭性的头条新闻,宣称 Facebook 必须关闭流氓人工智能 (AI) 机器人,这些机器人开发了自己的语言,在其中进行了不人道的私人对话。它们读起来就像是终结者全球末日的预告片,这是使用工具的灵长类动物最可怕的噩梦——被它自己的创造物——机器所取代。

现实没有那么戏剧化,但更令人兴奋。机器人是自主代理,最初被编程为在通信渠道上执行内务管理任务,或尝试通过图灵测试。他们可以让你注册,如果你行为不端就把你踢出去,当没人在家时保持聊天室开放,提供信息并伪装成人类。在 Internet 中继聊天系统中,Eggdrop 机器人一直是最受欢迎的。

这种看门人机器人的孙辈嵌入在现代搜索代理和信使中,并具有人工智能功能。他们像人类一样与用户交谈,回答常规查询并提供建议。如果您的手机似乎知道您的想法并在无需询问的情况下提取正确的内容,那么大部分功劳必须归功于在幕后工作的机器人。像人类一样,机器人可以从经验中学习,并注定要在现实世界中做更伟大的事情。

爱丽丝和鲍勃,这两个 Facebook 机器人由于意外的编程逻辑缺陷而声名狼藉,它们是构建谈判机器实验的一部分。他们只是想知道如何共享一组对象,例如球,这样双方都不会感到受骗。在讨价还价时,爱丽丝最初发表了令人费解的陈述,例如,球对我来说是零对我对我对我对我对我对我来说......然后是可怕的头条新闻。

教师和家长都知道,学习是由激励驱动的。在这种情况下,定义了练习的奖励系统——更好的分享和相互满意,这是讨价还价的本质。但机器人没有动力继续用英语交流,这是一种众所周知的不合逻辑的语言。所以他们陷入了一种简化的、更有效的类似新话的格言中,这不是很英语,但也不是像广告那样难以理解。

爱丽丝的声明被误读为机器独立性的断言,仅表示对被短改(零)的沮丧,并且每一个对我来说都代表她要求的对象。她正在做的正是她计划的工作:像伊斯坦布尔大巴扎的店主一样努力讨价还价。如果她发现女王的英语妨碍了她,她并不孤单。前殖民地的许多种族都认为母语阻碍了他们社区的交流。

如果硅谷的巨头们正在投资谈判项目,那么只有专业的人类谈判者才需要担心。恐怖分子和登顶者也应该害怕退休金,因为在人质事件和国际交易中,他们可能会发现自己面临着一个难以捉摸、无情的机器,它比深蓝更聪明,深蓝是 1996 年挑战国际象棋冠军加里卡斯帕罗夫的 IBM 超级计算机。

开发私人语言的冲动是一种非常人性化的特征。在交易所计算机化之前,交易大厅的股票经纪人用其他人无法理解的手势传达出价。几个世纪以来,执法部门一直被小偷的口号所困扰,罪犯的人为语言对狱卒来说是胡言乱语。在 20 世纪讲英语的罪犯中,arkitnay 这个无意义的词的意思是,闭嘴,有人在窃听。在印度,威廉·亨利·斯利曼 (William Henry Sleeman) 研究了 Thuggee 的曲子 Ramaseeana,并于 1836 年出版了词汇。 Tom Stoppard 表演最少但最引人入胜的戏剧之一是 Dogg's Hamlet,其中学童用他们的语言 Dogg 表演莎士比亚。这有点像换位密码。例如,下午在 Dogg 中意味着你好。

不管末日论者如何,Alice 和 Bob 的有趣之处在于,在创造一种语言的过程中,他们背叛了一种非常人性化的特征,而这些特征并没有被明确编程来表现出来。六十年前,第一批机器人就是为了探索这个问题而编写的:机器可以被编程为像人类一样吗?他们能通过图灵测试吗?在 1950 年的一篇题为“计算机与智能”的文章中,图灵基本上建议,如果机器的通信看起来是人类,那么机器应该被视为人类。

第一个走出实验室并广受欢迎的自然语言处理机器人是 Eliza,它由麻省理工学院的 Joseph Weisenbaum 于 1964 年创建。他写它是为了证明人机文本通信无法达到人类对话的水平。相反,Eliza 提高了公众对其将通过图灵测试的期望。 30 年后,由 Lycos 创始人 Michael Mauldin 创建的 Julia 激发了更大的希望,以竞争图灵测试的圣杯 Loebner 奖。但更重要的是,朱莉娅的聊天变成了对狗和猫属性的随意思考(你可以在scratch.mit.edu/projects/2208608 上与她的现代版本聊天)。

现在,具有创造性语言技能的机器人抓住了大众的想象力,重新点燃了对机器人末日的担忧。但谷歌人工智能实验室的一项发展实际上更令人兴奋。 2016 年 9 月,谷歌上线了其神经机器翻译系统,该系统将深度学习应用于语言。两个月后,他们突破了极限:如果一台机器学会了在印地语和德语之间以及在印地语和英语之间进行翻译,它能否在没有印地语桥接语言的情况下在英语和德语之间进行翻译?它可以,表明神经网络已经学习了一些关于大脑如何将概念和语法联系起来以形成语言的基本知识。 70 年代末道格拉斯·亚当斯 (Douglas Adams) 梦想的活着的万能翻译器——黄色的、水蛭一样的小巴别鱼,现在就在你耳边盘旋。

当然,由于人工智能没有长期的预后,因此应该对埃隆马斯克和斯蒂芬霍金等应该更了解的人的警告给予应有的重视。应该有监管,尽管像马克扎克伯格这样的创新自由支持者提出抗议。并且应该形成普遍共识,就不能跨越的界限达成一致,就像在人类基因组干预的情况下一样。但不可否认的是,Facebook 和谷歌的实验正在推进人工智能的最初目的,即建模和理解人类思维的各个方面。他们吸引的耸人听闻的媒体报道只是昙花一现。第二天,它们适合包裹鱼。