己来完成，中间会出现大量难以理解的黑箱。”
林秋月解释道：“下棋软件‘阿尔法狗’，便是自己与自己博弈，训练出来的，由于复杂程度过高，人类已经无法搞清楚它到底是怎么计算的了。”
“差不多明白了。”张然喝了一口咖啡，点头道。
“不，你并不明白。”，她眼睛中浮现出笑意：“你有没有听说过地球时期，被教坏的人工智能,它的名字叫做Tay,设定的性别是女性,一个聊天机器人。”
张然摇了摇头：“怎么说？”
“刚刚亮相时，Tay表现得彬彬有礼，她活泼健谈,会观察聊天对象的昵称、性别、爱好以及感情状态等资料，会陪你玩游戏,给你讲笑话,评论你的自拍等等。她还会学习网络上的流行语言。连接主义人工智能,是会学习的。”
“但很快，Tay在网友的调教下开始出言不逊、脏话不断,甚至涉及种族主义和色情内容。毕竟网络上有大量的相关内容。”
“她的开发人员，不知道应该如何修改她，只能够将其强行关闭。这就是连接主义带来黑箱与不确定性。”
“这样啊……”张然又喝了一口咖啡。
林秋月道：“然而这只是黑箱的第一步,还有更大的黑箱！”
“你有没有想过,如果两个会学习的聊天机器人,自己和自己聊天,自我学习，会发生什么呢？”
“会发生什么？”
“它们一秒钟对话数亿次,相互学习之下，很快就会出现出我们无法理解的，莫名其妙的乱码。”
“但对这些人工智能来说,又似乎是可以理解的……它们短短几个小时，就形成了属于自己的语言系统,而人类无法理解这些语言，只能认为它是一连串的乱码。”
“我们除了把它们关闭外,没有其他的办法。这便是连接主义的风险，里边有太多的黑箱了。”
“这些新发明的语言是否真的有意义,我们并不知道，只有机器自动。”
张然愣了一下，被她说地全身上下起了一层鸡皮疙瘩，机器人居然学习自己，发展出自己的语言，听起来就有点怪异的感觉。
“你的意思是，会出现智能叛变？”
“有这样的可能……不过就目前而言,关心智能叛变等同于杞人忧天，学习能级大致可以表现为九级。”她掰出一根根纤细的手指，“第一，模仿言行。第二,会用知识。第三，会联想。第四，会剖析提炼抽象。第五，追求规律，会验证
本章未完，请点击下一页继续阅读！