摘要：
面对人工智能，不论人类是莫名恐惧抑或是盲目崇拜，都可能被某些心怀不轨的人利用以操控整个社会，而这也正是笔者最为担忧的一点。一方面，无论是政界、商界，还是媒体行业的业界名人，都... 面对人工智能，不论人类是莫名恐惧抑或是盲目崇拜，都可能被某些心怀不轨的人利用以操控整个社会，而这也正是笔者最为担忧的一点。一方面，无论是政界、商界，还是媒体行业的业界名人，都在不遗余力地围绕人工智能编造各种耸人听闻的虚假“情节”，以从中牟取私利。然而另一方面，事物的真相却又常常淹没在浩如烟海的专业典籍之中，拒普罗大众于千里之外。
智能是人类独有的特性吗？通常，人们会说某些狗比其它狗更聪明（或者说智能），或者认为狗比豚鼠更聪明。那么由此看来，一只普通的动物同样可以拥有智能。既然狗拥有智能，那么鸟呢？还有蚯蚓，或者是植物的情况又如何呢？如何对此作出明确的界定呢？
实际上，这一定义总体上符合人工智能研究人员的一般认知。然而对于普通人而言，当他们真正谈及人工智能时，往往并不会考虑到动物或者植物。当人们发觉也能像植物、豚鼠，甚至是一只狗那样智能地运作时，大部分人也并不会为此而欣喜若狂。
同理，人们也并不会在意枪支的者赋予了枪支何种职能，又为其编入了何种程序。枪，生来本就是为了杀人，并且它也的确这样做了，然而却无人担忧未来枪也可能会发展出自我意识，随即杀害所有人类（毕竟这是人类预先赋予它的使命）。不得不承认，大部分人对人工智能的认知仅停留在“人形智能”层面，并且他们所担忧或期待的也只是人工智能能否自发产生动机。
动机的重要性不言而喻，而人的动机则更有异于其余一切动物，并且正是这一独特性使得人类独一无二。英国著名数学家、计算机科学之父阿兰·图灵（Alan Turing）曾建议到，由于直接给“人”下定义几乎是不可能的，因此可以这样认为：“如果它走起来像鸭子，叫起来也像鸭子，那么它就是一只鸭子。”
换言之，图灵提议，如果人类面试官在询问某一电脑程序一连串问题之后，仍无法分辨其为机器还是人类，那么该程序通过测试。一旦通过图灵测试，也就意味着该程序就是一个完全意义上的人工智能，几乎已无异于人类。实际上，即使通过了图灵测试，也依旧无法表明该程序就能如人类一样作出复杂决策，同样难以断定其能否自发产生未经预编程的动机。
尤其值得注意的是，一个书面形式的面试所能涉及的人类经验极其匮乏。因为我们人类生活在一个瞬息万变的世界之中，一举一动皆会立即产生真切的结果或影响。例如，“是否走入暗巷”就是一个极其复杂的决策，并且影响该决策的众多因素也无从得知。日复一日，人们都在一知半解的情况下作出种种决策。如果成功的定义是生存下来，那么我们人类绝对是大获全胜，因为人类不仅得以幸存，而且蓬勃发展至今。
人类何以如此，至今仍众说纷纭。但多数学者认为，这一切都得益于人类为事物赋予价值的倾向。人类如同一台“价值制造机”，以计算机都无法比拟的速度来为事物赋予价值。如果突然听到某个声音，人类能够在170毫秒内立即作出反应。相较之下，当我们在谷歌点击某一网络链接后，第一个字节的数据加载至浏览器的平均耗时也要200毫秒左右；而要等到整个页面加载完毕，则需要花费长达500毫秒。
对于电脑而言，加载网页本来只是小事一桩，然而与我们人类的大脑相比，就显得相形见绌。因为人类的大脑能以超两倍于电脑的速度来判断某一声音是否具有威胁性（例如树枝断裂或者金属碰撞的声音），某一声音又是否会给人以愉悦的感受（例如冰淇淋小推车上的铃铛声或者孩童的笑声）。更重要的是，在有效数据几乎为零的情况下，人类大脑仍然能迅速作出反应。
判断某一事物是好是坏，即为人类为事物赋予价值的行为，并且该行为通常是本能的、自发的，且不假思索的。但是如果被剥夺了这一反应，那么人类连普通的“思考”也将无从进行。
假设对于“喝什么”这一问题，他面前有两个选项，分别是池塘水和清澈见底的井水。毋庸置疑，是人都会选择井水。然而，倘若他是一个亡命之徒呢？并且如果那一汪池水荫蔽于人迹罕至的深山老林，而那口井却袒露在喧嚣闹市的众目睽睽之下呢？此时转念一想，他可能会选择那汪池水。当务之急虽然是解渴，但是他更长远的动机则是逃亡。缘何如此，主要是较之饮水干净与否，他更加重视自由与否，即在“人身自由”这一命题上赋予了更高的价值。实际上，人类的动机全然取决于事物的价值。如果一只狗渴了，它找到了什么水就会喝什么水，因为它的动机是存活，无关于价值。
然而此例就与“存活”无关：假如你面前有一个按钮，按，它就会杀一个人，不按，它则会杀十个人。这时你可能会想，虽然按不按都不会威胁到自己的生命安全，但不容忽视的是，道德的呼唤始终回荡在内心深处。因此，人类在评估各选项时，会为其赋予相应的价值，并以此指引着自己的思维走向。部分人坚称，价值源于信仰。虔诚的基督徒相信，价值反映着上帝的旨意。进化论主义者则宣称，价值使人类得生，使自己得永生。
相较之下，举世公认的观点是，价值是颠扑不破的客观真理。因为人类有价值，所以人类有价值，这是不证自明的道理。美国著名哲学家萨姆·哈里斯（Sam Harris）也曾如是说道：“当我们相信某事物本身是客观真理，或者合乎道德时，那么我们同样会相信，如果别人与我们处于同一境地，他们也会感同身受。”
事实上，仔细琢磨一下就会发现，这一说法并非放诸四海而皆准。一则，它未能解释为何某些价值独属于某一类文化，而另外一些价值却具有高度普适性。再则，它也并未说明价值的来源。因此，尽管目前也有人试图从宗教和进化论的角度来理解，但人们仍旧无法摸清价值的运作规律。
正是这“神秘莫测”的价值，在人类与人工智能之间划开了一条难以逾越的意识鸿沟。回到上文“饮水”的例子，故事中的主人公受到饥渴的刺激而去找水，这是由于生理因素而产生的动机。在此情况下，如果某个人工智能配备了合适的，那么它也能产生此类动机，例如电量过低则需要充电。
然而，是什么促使人类去拍好看的照片并与爱的人分享呢？为什么要与朋友探讨政治话题呢？又是什么驱使人类去看恐怖片，或者去学习某一项体育运动呢？上文的“按钮问题”又作何解呢？如果没有人类事先去进行价值分配，例如“一条生命的价值低于十条”或者“无论在何种情况下杀人都是不道德的”，那么一个冷冰冰的计算机何以能作出如上决策呢？人类的道德感，人类瞬间进行价值分配的能力，都是在历经数百万年的优胜劣汰之后，才得以脱颖而出。反观计算机，如果未经人类事先将道德准则编入其程序，那么一台计算机凭何能发展出自己的道德体系呢？
扪心自问，我们人类真心期待这一天的到来吗？纵观人类历史，就会发现人类是在历经成千上万个世代的沧海桑田之后，才孕育出了光辉灿烂的现代文明。因此，我们人类真的想目睹人类智能也重走这样一条崎岖坎坷的“文明之路”吗？
当然，人类也可以给人工智能“搭把手”，但即便如此仍无法忽视“意识鸿沟”问题：如果人类提前为人工智能编入某些人类价值观，那么就能以此认为该人工智能真的拥有了人类意识吗？能够自发产生动机吗？显而易见，笔者认为这是不可能的。
