阿尔法狗在围棋上打败了柯洁，现在的留园版面又一次兴起多年来的讨论，机器人取人类而代之，统治人类。 就我来看，可能性极低，因为人类可以针对自己的创造设计出框架来保护人类，核弹就是一个例子，阿尔法狗也是一个例子

阿尔法狗的设计与其他人工智能一样，由大框架套小框架，一套套的框架组成的。对阿尔法狗来说，最大的框架就是下围棋要赢 （也可以输）。柯洁说过，“我的印象中阿尔法是很贪恋实地的”，贪念实地就是阿尔法狗在下围棋时的框架。阿尔法狗从下棋的开始到结束之间做的每一个决定都是在原有的框架之中。而这些框架对一个单一的人类的日常生活来说，是不存在的。十字路口向左或向右，吃面包还是吃米饭，甚至于对自己生命的延续或自我毁灭，都是这个人可以自主决定的。所以，只要框架设计合理，一个简单的设计就能把人工智能产生自主决定的可能性降到最低，也就把人工智能统治人类的可能性降到最低。简单的框架设定可以是，人工智能在做出的任何决定前要先搜查所有同等级的框架，假如做出的决定不是在任何框架之内，则该决定取消。这个设计就能保证人工智能不会偏离人类设计师所要的最终目标。

当然，人类设计师的目标可以是让人工智能毁灭人类，但目前来看这个可能性也是很低。科学家们并不拥有核弹，而是由国家和政府控制。人类虽然能自主决定，但单一的人类也是在大大小小的框架里生存。就人工智能来说，阿西莫夫的机器人三定律，可以成为人类设计并使用人工智能的总框架，即：1）机器人不能伤害人类，或因不作为而使人类受到伤害；2）除非违背第一定律，机器人必须服从人类的命令；3）除非违背第一和第二定律，机器人必须保护自己。要是人工智能发展到需要建立一个全球性的有法律起草权和执行权的决策机构，那么可以通过严格要求所有的人工智能采用机器人三定律或类似的定律并设定方案进行监督，预警和高速反应来控制危险的人工智能和其设计师。

所以，以我来看，人工智能统治或毁灭人类的可能性其实是非常低。

当然