aixt8· cc”
“由于整个过程，需要让机器自己来完成,中间会出现大量难以理解的黑箱aixt8· cc”
林秋月解释道：“下棋软件‘阿尔法狗’,便是自己与自己博弈,训练出来的，由于复杂程度过高,人类已经无法搞清楚它到底是怎么计算的了aixt8· cc”
“差不多明白了aixt8· cc”张然喝了一口咖啡，点头道aixt8· cc
“不，你并不明白aixt8· cc”,她眼睛中浮现出笑意：“你有没有听说过地球时期，被教坏的人工智能，它的名字叫做Tay，设定的性别是女性，一个聊天机器人aixt8· cc”
张然摇了摇头：“怎么说？”
“刚刚亮相时,Tay表现得彬彬有礼,她活泼健谈,会观察聊天对象的昵称、性别、爱好以及感情状态等资料,会陪你玩游戏，给你讲笑话，评论你的自拍等等aixt8· cc她还会学习网络上的流行语言aixt8· cc连接主义人工智能，是会学习的aixt8· cc”
“但很快，Tay在网友的调教下开始出言不逊、脏话不断，甚至涉及种族主义和色情内容aixt8· cc毕竟网络上有大量的相关内容aixt8· cc”
“她的开发人员,不知道应该如何修改她，只能够将其强行关闭aixt8· cc这就是连接主义带来黑箱与不确定性aixt8· cc”
“这样啊……”张然又喝了一口咖啡aixt8· cc
林秋月道：“然而这只是黑箱的第一步，还有更大的黑箱！”
“你有没有想过，如果两个会学习的聊天机器人,自己和自己聊天,自我学习，会发生什么呢？”
“会发生什么？”
“它们一秒钟对话数亿次,相互学习之下,很快就会出现出我们无法理解的，莫名其妙的乱码aixt8· cc”
“但对这些人工智能来说,又似乎是可以理解的……它们短短几个小时，就形成了属于自己的语言系统，而人类无法理解这些语言，只能认为它是一连串的乱码aixt8· cc”
“我们除了把它们关闭外,没有其他的办法aixt8· cc这便是连接主义的风险，里边有太多的黑箱了aixt8· cc”
“这些新发明的语言是否真的有意义,我们并不知道，只有机器自动aixt8· cc”
张然愣了一下，被她说地全身上下起了一层鸡皮疙瘩，机器人居然学习自己，发展出自己的语言，听起来就有点怪异的感觉aixt8· cc
“你的意思是，会出现智能叛变？”
“有这样的可能……不过就目前而言，关心智能叛变等同于杞人忧天，学习能级大致可以表现为九级a