在未来，杀人机器人会出现吗？可能取代人类文明吗？

邱振海分享我对施政问题的看法。今天头脑风暴快报“A:目前看来这个问题很荒谬，但从人工智能和机器人发展的内在逻辑来看，尤其是从目前全世界科学家对此争论不休的混乱情况来看，并不是没有这种可能性。

首先，我们都知道，人工智能在有益于人类和有害于人类之间，其实只有一步之遥。那么，这个中间界限究竟在哪里呢？我们到底如何才能保证人工智能永远只有益于人类，而不是有害于人类呢？

其实，这个中间最重要的一道门槛就是“意识”，也就是说未来我们所制造的人工智能究竟是否真正具有意识？

所谓人工智能具有意识，其实就是人工智能形成了一道自我思维的系统，其6逻辑就像人脑的工作系统一样。到目前为止，没有任何一个大脑科学家可以完全解释，人脑究竟是如何工作的？爱恨情仇究竟是如何形成的？于是，科学家们只能把如此简单而复杂的问题归功于上帝的杰作。

人工智能就不同了。如果我们现在所设计和制造的人工智能，届时也拥有意识及自我思维的能力，并由此而形成爱恨情仇，那么人工智能对人类有害的一面，如脱缰的野马或突如其来爆发的洪水一发不可收拾。届时，就连设计和制造人工智能的科学家们，面对具有意识的人工智能也将一愁莫展。

到目前为止，科学家们对这个问题的必要性争论不休。刚去世的剑桥大学科学家霍金和特斯拉总裁马斯克等全球一流的科学家和企业家，曾联名给联合国写信，要求全面禁止人工智能的研究，因为人类永远不可能禁止人工智能的“意识之门”，届时必将”开弓没有回头箭”。

但也有一些科学家认为，当人工智能发展到一定阶段，人类自动就会出现一些相关的道德和法律制约。但问题是，历史上曾有过许多科学主义最后损害人类的例子，最明显的就是几十年前的核研究并由此而导致的核武器发展。