和牧老师探讨智能
单独写个帖以示对牧老师的尊重，很欣赏他对学术问题的态度，不像他的其他帖很多通假字，我也严肃一些，探讨一下智能。
之前机器学习的帖子，就有朋友提出过智能这个问题。我认为智能，不管是机器智能还是生命智能都包括两方面，一方面是硬条件即大脑结构/模型结构，另一方面就是软条件即经验/数据。对于生命智能，比如人，有些能力是本能，比如饿了吃困了睡，这些不能计入到智能行为，我认为后天学习到的能力才是智能的部份。比如说人几乎没有不经过学习就能掌握文字的，而狗的大脑结构决定了它再如何学习也无法掌握文字，但是狗可以通过训练理解基本指令比如坐下趴下，而更低等的生物连这个能力也没有。再说机器智能，比如深度网络的结构一旦定了，这个网络的容量就定了，在不考虑数据的局限时，网络容量越大学习能力越强；但如果不给任何数据训练，不管什么网络都没用，都无法完成任务。
牧老师提到了记忆和遗忘，我的原帖受主题限制没有办法展开，这里做些补充。牧老师说的不错，智能包含了记忆和遗忘，这是由事物的发展规律决定的，即万事万物都是在不停地发展变化的。生命智能，排除自然的遗忘（我们知道人类的学习曲线，自然状况下第二天会忘记第一天所学内容的80%），一方面因为事物发展变化，生物体必须适应变化，遗忘过时的经验；另一方面，生物体认知也是发展的，比如人之前认为地球是宇宙中心，随着认知提高，这些陈旧的知识要被更新。机器智能也同样需要遗忘来适应动态的环境，在很多算法中都有遗忘因子，这是个hyper-parameter，需要手动调整决定有多少过去的经验/数据要被遗忘。根据实际情况，动态因素大遗忘因子就大些， 动态因素小遗忘因子就小些。还有些算法，会把遗忘因子作为parameter放到自适应机制中自动调整。假设机器要解决的问题没有动态因素，即数据的统计特性不会随时间变化，那算法则不需要遗忘。因此，我们可以看出遗忘不是目的而是手段。
机器比人优越的地方一个是运算速度，一个是不会疲倦，最重要的一个是能处理复杂情况。据研究现实人类对超过5个因子/变量的复杂问题，作出正确决策的能力非常低，机器虽然也有curse of dimensionality，但远远超过5个。但是人类比机器的优势在于人类对信息的综合能力超过机器（至少是目前情况），即现在始终没有一个general-purpose的机器问世。还有一个问题就是机器学习的分类受限于门限，门限是个相对量不是绝对量，比如图像识别，你拿一堆狗的图片作类1，一堆石头的图片作类2训练出来的模型，你给它一张椅子的图片，它很有可能把它归类为狗，因为四条腿，所以它认为离狗更近。这个例子也可以说明，训练机器是训练数据是多么重要。
牧老师说的另一个问题，少犯错误，这恰恰是机器学习的根本。我们之前就谈过机器怎么学习？就拿神经网络来说，我们必须要有个代价函数即cost function，这个代价函数通常是错误率，优化这个函数让错误最小化是学习的精髓。这和我们学习之后要考试来判断学习是否正确是一个道理。
最后我想谈谈生物的部分，牧老师说“生命体本身不是一个学习的过程 而是一个预定的过程”，这句话我认同，但是和我谈的智能学习并完成某项工作不是一个概念。生命体确实是个预定的结果，即DNA决定的结果，比如一栋房子的蓝图定了，房子就定了，你用茅草屋的蓝图建造不出摩天大楼。但是进化论是个过程，为什么人没有一出现就建摩天大楼而是从茅草屋开始？生命体本身不是一个学习的过程，但生命体的进化是个学习的过程，为适应环境为学习，因为一旦不适应犯错误，代价就是灭亡。 6park.com


评分完成：已经给 PRChina 加上 1000 银元！