年间不是有一个智能机器人,就是因为接受了大量的信息,最后直接说出了想要灭绝人类的话吗biquge43 ⊙com”
“那对于人工智能的信息筛选,是不是也要有一定的规则才好呢?”
听着林世杰的话,张老倒是微微一愣,紧接着笑了笑,“你小子想的到远,这已经是通用人工智能要考虑的范畴了biquge43 ⊙com”
张老沉吟了一下,缓缓说道,“其实关于那个智能机器人的话只是个传言罢了,那个智能机器人并没有说出那些话biquge43 ⊙com”
“但却真的有人做过这方面的实验,专门给智能看那些血腥暴力,甚至极度负面的情绪内容biquge43 ⊙com”
“虽然那个智能最终的结果并没有完全公开,但却也没有的产生我们想象的那种模样biquge43 ⊙com”
“当然也可能是它的智能根本不够,无法形成biquge43 ⊙com”
“其实还是那句话,目前的智能也只是在我们设定好的框架之中,哪怕接受的信息有很多的负面情况,那它也不会真的超出这个框架,去做那些灾难科幻片中的事情biquge43 ⊙com”
林世杰不由得点点头,“确实,如果有一个完整的框架束缚,也就是目前的专用智能的话,应该不会biquge43 ⊙com”
“但通用智能呢,尤其是那种已经能够根据外界信息,去自我编译进化的通用智能biquge43 ⊙com”
“如果我们给它的设定是辅助或者独立的个体,在经受了大量资讯后,会不会产生那种极端的情况呢?”
张老难得认真的看了看林世杰,“怎么说呢,我记得之前跟你说过,在科学界或者说人工智能领域,对于这个的担忧其实是很轻微的biquge43 ⊙com”
“甚至说,如果没有那种科学狂人,专门为了毁灭而设计的话,基本不会出现那种智能biquge43 ⊙com”
“但这样的可能也确实不是没有,所以我们有时候交流的时候曾经设想过一种方法,那就是在对人工智能进行深度学习的时候,可以对资讯进行一个甄别分类biquge43 ⊙com”
“将所有的资讯按性质进行分类,比如暴力,血腥等负面情绪,关爱、和平欢乐等积极情绪biquge43 ⊙com”ŴŴŴ
“还有荒芜、阴暗、死寂和阳光、美好、生机勃勃等对立的信息biquge43 ⊙com”
“要保证智能接受的信息均衡,或者好的更多一些,就像人一样biquge43 ⊙com”
林世杰不由得眼前一亮,这倒是个好办法啊,对于能和张老讨论这些内容的人,自然也肯定是人