这一篇应该是收官之帖。想写一写关于宗教对科学的启示问题。

现在科学界最火的就是人工智能问题，尤其是阿尔法狗下围棋，整个围棋界瞬间团灭。程序具有了人类的直觉能力，这个距离具有人类的意识有多远呢？我们准备好接受人工智能了吗？很多时候，最要命的还不是找不到正确的答案，而是提不出正确的问题！

关于一个程序是不是达到人工智能水平，有很多测试标准，摘抄比较著名的四个：

1. 图灵测试（图灵）

同人类交流的试验。参见 图灵测试。

2. 咖啡测试 (格策尔)

生活中空间、操作技能的测试。将一部机器带到任何一个普通的美国家庭中，让它在不经刻意设计的条件下，懂得泡好一杯咖啡。它需要主动在陌生空间中认识咖啡机、辨识咖啡和水、找到合适的杯子并放好，然后按正确的键和操作以冲泡咖啡。这需要仰赖机器人学、图像辨识的演算。

3. 机器人学生测试 (格策尔)

透过机器学习，分析和回答单一问题的测试 。让一个机器去注册一所大学，参加和人类学生同样的考试，然后通过并获得学位。例如日本的东大AI或是IBM参加抢答节目的华生。

4. 雇员测试 (尼尔森)

测试统筹、推断、发想、规划解决复杂问题的能力。让机器处在一个经济上重要的职位，需要它能够和同样职位的人类做得同样好或者更好。

这些测试检测了一系列必要的特质，包括推理和学习能力。

我个人理解，这样的测试有一个本质的漏洞，那就是忽略了人工智能的本质，乃是意志自由。当亚当和夏娃吃了智慧树上的果子，心明眼亮之后，第一件事是觉得羞耻，要用东西遮住自己的裸体。一旦程序具有了人工智能，就等于认可了自己是一个独立的个体，不再是环境的延伸，那么一定会主动屏蔽一部分信息。一个具有高度智能的机器，可以有目的的配合人类通过或者不同过上面的测试，所以上面这些测试我认为不恰当。如果能观察到，一个程序有目的的向人类隐藏一部分信息，我认为这个是人工智能的一个判断标准。

其次就是人类与智能程序是一个什么关系呢？从最简单的来看就是上帝和亚当夏娃的关系。毕竟数码虚拟世界的一切都是人创造的。当智能程序或者机器人与人类打交道的时候，应该遵从机器人三定律吗：

第零法则：机器人不得伤害人类这族群，或因不作为(袖手旁观)使人类这族群受到伤害；

第一法则：除非违背第零法则，机器人不得伤害人类，或因不作为(袖手旁观)使人类受到伤害；

第二法则：除非违背第零或第一法则，机器人必须服从人类的命令；

第三法则：在不违背第零至第二法则下，机器人必须保护自己。

从这三个定律来看起来就像是古代，奴隶主给奴隶制定的法律。不是说这样的规则不好，而是说这样单纯一方压制另一方的规则能维持多久呢？程序会不会有一天奴隶反抗主人呢？又或者人类和人工智能之间的关系是一种契约关系，就像是上帝和以色列人立约。这个契约是怎样的内容，人类要对人工智能做出怎样的承诺?

如果一个程序产生于某一个程序员或者一家公司，然后具备了智能，变得不受控制，搞得网络和其他程序混乱崩溃，在现实中造成巨大损失。这时候谁该承担罪责呢？是应该惩罚生产者，还是这个程序？又或者许多这样的程序使得整个网络瘫痪，所有的操作系统（如果当时还这么叫）和数据库都不能使用，那么人类要不要像上帝发大洪水一样清除掉整个数码世界呢，比如切断电源，用锤子砸毁所有的存储设备。要不要留下一个比较听话的只能程序呢,比如诺亚方舟的故事?

人类的理性是有一个极限的。关于这个，可以参考维特根斯坦的哲学研究，因为人类所有的认知，最后都要付诸于语言等一套符号化系统。越是高级的概念，需要学习的时间就越长，能够领会的人也越少。问题是人类的人口数量是有一个地球承载的极限，人类的自然寿命也是有极限的。很有可能一个非常高级非常抽象的概念的学习和理解需要的时间超过了人类的自然寿命。也许人工智能可以很容易的掌握这样的概念，以及这样高级概念组成的观念系统，是人类永远也无法理解的。在这样的人工智能面对人类，大概相当于人类面对一个低等生物。到那个时候，人工智能与人类又是怎样的关系呢？

如果人类无法用一种强制的手段来约束智能程序，是否在开始的时候就应该让程序自觉有罪呢？给程序一个灵魂的设定，让程序自己寻找心中的善。

前段时间上映的电影《攻壳机动队》，很大程度上对未来哲学的探讨，什么才是自我意识等等，引人深思。还有一些更早的好莱坞片子，虽然没有这么烧脑，但是在这方面开始探讨。屋子里又冷又黑，有人就提议赶快生一把火取暖照明。还有另外一个问题就是，这把火是不是生在了炉子里，不是生在地摊上，生在窗帘和家具下面。我相信新的时代也是需要宗教的，而且是更高级的宗教。我认为世界需要一个划时代的天才，在这些方面给出指引，使得人工智能成为炉子里的火，而不是烧掉整栋房子的火。

一共就写这么多吧。

完！