国学大典人文讲会|蔡恒进:人和机器的区别在这四个字

2018年06月15日 09:33

自动播放

4月28日,第三届国学大典启动后首场人文讲会,湖南大学岳麓书院和凤凰网特邀著名人工智能专家、武汉大学蔡恒进教授,中山大学张祥龙教授,清华大学黄裕生教授,岳麓书院朱汉民教授等资深学者跨界对话,深度聚焦“人工智能时代的理性、道德与信仰”。下文系根据蔡恒进教授发言整理而成:

蔡恒进:武汉大学计算机学院教授、博导,中国人工智能和大数据百人会专家。提出自我肯定需求理论、触觉大脑假说和认知坎陷三大定律。著作《机器崛起前传——自我意识与人类智慧的开端》,获2017吴文俊人工智能科学技术奖。

什么是“认知坎陷”

蔡恒进:大家晚上好!首先感谢岳麓书院,还有凤凰网的邀请,对我来讲,这是非常大的荣幸,非常感谢大家。我先不讲人工智能,先讲“认知坎陷”,为什么要引进这么一个概念?实际上它不仅仅是一个概念,我可以举一些例子,比如说我们互联网时代说“打酱油的”,我一说,大家就明白是什么意思,这是一个认知坎陷,后来有吃瓜群众,这又是一个认知坎陷。而且很多认知坎陷是一对一对出现的,比如说高矮、生死、男女,这些都是认知坎陷,我引进这些认知坎陷之后,才能一以贯之的把所有的问题都串起来。就是说人的自我意识是怎么来的,智能是怎么来的?我们为什么会有不同的宗教和不同的想法,为什么我们人生存在这个上是有意义的?而且我们即使面临着计算机、AI的威胁,我们人还是会有意义的,我只有引进这个概念,才能在20分钟内把它讲清楚。

为什么认知坎陷这么重要?首先,我们知道人是怎么来的,我们人最重要的特色在哪里?就是因为我们有主体意识,就是“我”,我是一个最重要最重要的认知坎陷,而跟我相对的就是外界或者世界,这一对认知坎陷在我这里,就变成了所有的认知坎陷的开端。这里的背后是什么?我引进了一个触觉大脑假说,讲人为什么是万物之灵,不是因为我们有好的实力,或者我们的脑容量大,这些都可能是后果,而不是原因。也不是因为我们直立行走,或者我们是有社会性,社会性强,也有很多这样的解释,但是我觉得更重要的是因为我们敏感的皮肤,是我们敏感的皮肤导致人跟其它动物,产生本质的差别,就是说我们敏感的皮肤促使我们有了更强的意识和对外界的敏感,因为这个,才开显出灿烂的精神世界,这是认知坎陷的起源。

就我们的存在而言,我们可以把认知坎陷看作所有文字,实际上每一个字都是一个认知坎陷,还有所有的宗教、哲学理论都可以看成认知坎陷,因为在这个意义上,它们都是从“我”这里开显出来的体系或者是意识片断。我们的意识片断、我们的认知坎陷,实际上是可以物质化的,比如说我们有齿轮、发条、螺丝,这些都是我们意识里面,想完成某种功能性的东西,比如齿轮可以传递运动、螺丝可以紧固一个东西,这些可以看作不同的认知坎陷,也可以看作不同的意识片断,我们把这些片断装配在一起,它们就可以达成一个我们希望的功能。比如说钟表计时,这个钟表也可以看成是我们意识的一个凝聚。

中文屋悖论:机器是人的意识的凝聚?

只有这样,我们才能很好的理解“中文屋悖论”,就是说一个屋子里,没有一个懂中文的人,但是有英汉字典、汉英字典之类的翻译工具,一个懂英文的人在里面,外面有人给他递一个用中文写着问题的纸条进去,他可以通过翻字典,把中文翻译成英文,然后用英文回答问题,再翻译成中文,把这个问题答出来送出去,这就是美国哲学家希尔勒提出来的“中文屋”的悖论。他想证明什么呢?就是说你看在这个屋子里,没有一个人懂中文,里面没有懂中文的,但是看起来懂中文,所以计算机也一样,它只是看起来懂,实际上并不懂。

在我看来不是这样的,这整个屋子是懂中文的,只不过他懂中文是因为我们人类的这些意识凝结在这里,首先懂英文的人必须真的懂,英汉辞典、汉英辞典反映的是我们编撰者的意识,只不过固化在这里,放在这里,就是说“中文屋”的表现好坏,实际上决定于这里面每一个部件的好坏,它的知识范围。比如这个辞典是30年前编的,我们讲吃瓜群众,问吃瓜群众的问题,它是不能回答的,或者懂英文的人没有化学知识的话,我们问化学的问题,你用什么语言问,它都不会回答,你把中文屋拆开来讲的话,就是说它的表现是依赖于这种意识凝聚的状态和里面的细节,只有这样,才能更好的理解。

我们转到阿尔法狗,我们下围棋的都认为围棋是人类智慧中最高端的游戏,需要创造性、要有直觉、有想象力。那么,你说阿尔法狗有没有智慧、有没有想象力、有没有直觉?显然是有的,但是它是从哪来的,实际上阿尔法狗这个机器凝聚了所有工程师从把二氧化硅锻炼成晶片,然后到集成电路的设计,再到程序员把这些规则写进去,所有这些人的意识凝聚在这里,变成这个机器。就是说这些人的意识片断或者认知坎陷是这么凝聚起来之后,才能变成一个战胜人的这么一个机器。

现在我们要追问的是它有没有自我?机器有没有自我?我的回答是有的,虽然它非常弱,为什么说它有?因为它的主程序是可以贯彻所有程序员一开始设计的东西,但是它非常弱,假如我们的主程序坏了,或者里面有个线松了,或者是一行出现bug,那么它就不能完成任务,这个跟人相比是不一样的。我们人可能某个地方受了损伤,作为一个整体来讲,还是能够完成一些我们想完成的任务,有些有问题的地方,身体本身可以进行自我修复,或者我们能绕过去,而机器目前做不到这一点。

但这并不意味着机器未来做不到这一点,它未来的主程序可能对所有子程序有更好的统筹力,就有点像我们的自我意识,能对我们自我的这些意识片断和认知坎陷,有足够的统筹力,差别就在这里。

机器进步那么快,我们还有机会吗?

我刚才讲认知坎陷,现在讲机器有了这些之后,跟人的关系会变成什么样子?我们要说这里有重要的两个数据一定要记住,一个是机器的中频速度非常快,这是一个重要的指标,它的中频速度是10的9次方每秒,人可能每秒有10的3次方就不错了。假如说我们一秒钟能眨眼一千次,那么机器有多少?实际上它要比我们快6个量级,10的6次方,这是一个很大数据,这是第一个数据。

第二个数据,我们人的进化是非常缓慢的,我们现在还能读懂诗经,还能读懂很古老的文字,说明我们人的演变在这两千年还不是很大,虽然我们的推理能力或者数学的能力变化大一些,但是这进步都是以几十年为单位来计算的。对于机器来讲,我们是以两年的单位来记,按照摩尔定律,它是18到24个月,能力翻一番。这样的话,大家想每两年翻一番的话,20年就要翻10番,就是1024,就是1000倍,20年翻1000倍,再20年,再乘以1000倍,又是10的6次方,所以40年,能看到我们的手机跟现在差100万倍,再过40年,又差100万倍,大家想象一下,这是一个什么概念?这是我们面临的一个问题。

现在好了,我们现在讲,人是因为认知坎陷,所以有了这些情感的东西、理性的东西,那机器会不会产生认知坎陷?跟我们一样,我回头再讲,实际上我们每个文化的背景,产生的认知坎陷是不一样的,比如我们的味觉,甜酸苦辣鲜香麻,这些对于我们来讲,麻辣是能分开的,但是对于外国人来讲,一开始是分不开的,这就是跟背景有关系。像刚才讲的“吃瓜群众”,我们听着都明白,但是外国人听不明白,这就是认知坎陷不一样的地方,我们不同的文化背景会不一样,那么我们跟不同的动物也会不一样,比如狗的视力只能分辨两种颜色,但它的嗅觉很灵敏,大家都知道,它的坎陷世界跟我们的坎陷世界是不一样的。回到机器的坎陷,跟我们差别就更大了,因为刚才讲了进化速度和运行速度都不一样,我们面临的挑战是非常大的。那我们是不是就没有机会了?我们面临很大的挑战,是不是没有机会了?还是有机会,那机会到底在哪里?因为我们现在给机器的是这些意识片断,我刚才讲了,所有的这些东西都是意识片断,它可能学到很多,但是它缺少的是整全意识。我们为什么有整全意识?为什么我们在两千年前听的故事,现在听起来还觉得是对的?就是因为我们一开始,我们的起源就是来自于我和世界的二分,就是触觉大脑假说,因为我们从一开始,就有这个意识,就是我和世界,所有的东西从这里补充细节,“我”是一个很特别的认知坎陷,一开始就是“我”的边界可能就在我们的皮肤上,比如说生命最原初是单细胞生物的话,“我”的边界可能就是细胞膜,这个细胞膜是有一定认知能力的。

内外之分之后,对我们人来讲,一开始在这里,但是并不以为这我们一直停留在这里,比如说原始人拿到一个果子,他会想这是我的,一定不希望别的人拿走,但是你仔细想想,从物理上讲,凭什么是你的?凭什么是我的?没有道理,但是它天生就是这样想的。这个东西也不是杜撰的,你想动物有领地意识,它跑了一圈,说这个地方是我的,你说它凭什么说这是我的?这个“我”是可以向外延伸的,我想我们搞哲学的,就很明白这一点,比如一个创始人,一个公司创始人,像乔布斯的话,他的生命跟苹果公司的关系就会很密切,从某种意义上苹果公司是他生命的延伸。一个国家的创始人,他的生命跟这个国家是有关系的,理论创始人跟他的理论本身有这种延伸关系,这个可以至大无外,可以说对于宗教家来讲,对于哲学家来讲,宇宙都是我的一部分,可以是这样子。当然不同的人可能在不同的时候,也会有这样的想法,这是至大无外。

也可以至小无内,就是说我们会发现,我不会停留在皮肤这里,我这个人的本质也不是我的长相,也不仅仅是我某一个时刻的想法,而是我的心灵,或者讲我的灵魂,所以这个“我”是一个很特别的认知坎陷,它可以至大无外、至小无内。

人的价值与机器的危险

另外一个很重要的坎陷就是世界,我们现代科学的发展,实际上已经把这个“世界”了解得相对透彻,我们知道它来自物理方程,不管是牛顿方程,还是量子力学方程,反正是满足方程的,那么它这种物质世界,我把它叫做“有执的存有”,这也是借鉴牟宗三先生的话,相对而言,我们的坎陷是无执的存有,这样的话,我们就能把这个事情说得更清楚。无执的存有的话,一开始很软弱,单细胞的时候,它只能影响周围一点点,等到我们这个坎陷,能够造飞船了,可以建三峡大坝、可以做芯片,可以做阿尔法狗出来,一开始可以看到是AI物化了我们人的意识,实际上我们人的意识,也不是简单通过我们的大脑,而是跟这个世界有关系的。我们的意识很多是外在传递来的,比如我们学语言,语言都看成是坎陷世界的东西,学语言的话,你把小孩子放在英文环境,他学的是英文,你放在中文环境,他学的是中文,而且非常快,从1岁开始喊爸爸妈妈,到3岁可以讲故事,这是非常快的过程。这种现象把它放在自我意识的进化意义上来讲,可以很好的理解,因为语言学习,母语学习很快,跟莫扎特是音乐神童是一个意思,你想象一下,他是音乐神童,他的爸爸也不是很牛的人,他的老师估计也没有比他强,但是为什么他能比他爸强,比他老师强?你既不能从遗传角度来理解,也不能从教的角度来理解,只能说他以这种声音或者音乐的方式,来理解这个世界,跟世界产生关系,所以他才是对这个声音非常敏感,对音乐非常敏感,才能成为神童音乐家,我们小孩子学英语或者学中文的话,道理也是一样的,他超越了我们父母能教的范围。

那么从认知坎陷这个视角去看宗教、看哲学、看未来,我刚才讲了,我们人有整全意识,至少机器现在是没有的。我们在这里是面临了最大的危险,还不是说机器突然明白了,它要造反,而是说它理解的世界,完全是另外一个,它就是没轻没重,但是它的速度快、力量强,它不经意之间就会把人磨掉,这也正是比尔盖茨、马斯特和霍金最担心的。因为他们理解的世界是物理的世界,是理性的世界,人不过是一堆分子原子,就是说对于主流的自然科学家来讲,人的超越性是不不存在的,不知道从哪里来的。我这里讲的触觉大脑假说,实际上生命一开始就有超越性,而且这个超越性就是体现在无限,坎陷的这种追求上,这是一个很有意思的事,因为无限从定义上来看,它肯定是看不到边的,是摸不到边的,它才能是无限,但是你仔细想,为什么看不到、摸不着的,我们还相信它有,就是这些形而上的东西,比如上帝或者天这些,都是因为同样的认知坎陷。这个认知坎陷的话,实际上小孩子就会有,小孩子就会问山那边是什么?你可能回答山,那个山的那边是什么?你们你还是会回答只有山,我们这个心理可以一直朝前推。虽然我们真正的地球来讲,可能山那边不是山,而是水,但是你觉得山那边可以还是山,这就是坎陷世界,它是可以超越我们能感知的物质世界,这个超越性在一开始就有了,某种程度上来讲,我们人是有神性的,相对而言,我们讲坎陷世界几乎是一对一对,基本上有神性,那么就会有魔性,这个魔性,我们现在到一期的话,很可能AI更多的是到魔性了,而不是神性,因为神性是讲我们人进去,还是出来,但是魔性的话,就是一根筋进去之后,出不来,天才和疯子一线之隔就是在这里,天才进去了,还能出来,疯子进去,就不能出来了,这是最大的差异。

我们面临的是对于机器的关系,可能是这种关系,但是从某种意义上来讲,即使机器变得很强大了,我们人还是有价值,因为我们是有整全意识的,这个是依赖于我们亿万年进化的过程,等于是我们能进入今天,就是我们因为跟物质世界的关系,因为这亿万年的交互,在如此多的可能性里面,我们选择了这个可能性。假如机器只有逻辑理性,只有公众理性的话,它是不能在众多可能性里面,挑出一个可能性,因为它随时可能进入一个无穷的状态。举一个很简单的例子,比如说我们算圆周率π,你不能说算它没有价值,大家都知道,你算它可以无穷无尽的算下去,比如它说这个世界是个多面体,它把地球说成是多面体,你不能说它是错的,这个在逻辑上是不能证明的,我把这些状态都叫做暗无线,而且暗无线是无处不在的,比如说一杯茶,我们就尝尝它的味道,到底香不香、苦不苦之类,机器说要把所有的东西搞清楚,这样一杯茶,它把所有资源,把整个地球都消化,来做这件事情,因为你没有办法让它止步,我觉得这是未来跟AI的关系,风险就在这里。