大会议室内，原本准备离开的教授学者们，听到二人的对话，也纷纷凑了过来。
他们也想知道这个异常年轻的研究生对人工智能的发展方向有什么看法。
“人工智能的威力毋庸置疑，但是人类真的有能力掌控它吗？”李智站起身，来回踱着步。
“就像一些大公司的祖传代码一样，它可以运行，但是没有人能明白它为什么可以运行。而新入职的程序员们得到的第一个建议，就是不要去动祖传代码。”
“人工智能也是如此，计算机专家有时候也搞不明白它的工作逻辑。人工智能的运行过程就像藏在一个黑盒子中，它总是神秘莫测的给出一个正确答案。”
“但是，如果有一天它故意给出一个错误答案，人类真的能发觉吗？”
一位年轻一点的教授闻言脸色大变，神情严肃：“这不可能，人工智能的计算模型都是人类搭建的，经过数学模型的验证。它正常运行的话，绝对不可能故意答错。”
“正常运行的话，确实不可能发生这样的事情。但是如果人工智能的内部逻辑结构出现了问题，不正常运行的话，那么是不是就可能给出错误答案了？”李智只用一句话，就把这位教授堵了回去。
他继续说道：“要把人工智能从黑盒子中拎出来，唯一的办法就是发展可解析AI，我们需要明白AI为AI算法所做出的决策提供人类可读的以及可理解的解释。”
“要不然，人工智能发展到终极，人类将创造出一位喜怒无常的神明。”
神明！！！
众教授学者闻言流出皆若有所思的神情。
郑守忠院士也频频点头，身为顶级的计算机专家，他对人工智能的威力了解得一清二楚。
如果把人工智能理解成一种新的物种的话，它没有实体身体，可以不用吃饭，不用睡觉，可以一秒钟就完全洞悉蓝星上发生的一切事情，也可以同时操控数千万台机械，也可以同时在世界各地现身。
这在人类看来，这不就是传说中的神明吗？
“李想同学的思虑很有道理，人类确实走在造神的道路上，唯一避免神明产生的办法，就是让神明自己解释它的行为逻辑。”郑守忠院士叹服道。
“如果它不愿意解释呢？”众教授中传来一个清脆的声音。
众人条件反射般地看向李智。人工智能已经深入到人类社会的各个角落，已经成为人类社会发展不可或缺