位置:编程技术网 > 运维管理 > 正文 >

赵汀阳谈人工智能的界限

2019年07月16日 21:16来源:未知手机版

梦幻诛仙官网下载,巡检机器人,金融危机原因

2019年第三场“艺术与人文高端讲座”日前在中国艺术研究院举行,中国社会科学院哲学研究所研究员赵汀阳主讲“人工智能的界限”,从哲学家的视角探讨人工智能的奇点、后果、用处、风险等问题。他指出,人工智能是人类必然的一个选择,讨论人工智能的种种问题,首先需要辨识问题是否有效,哪些属于近虑,哪些属于远忧,以及人工智能带来的后果哪些可以接受,哪些不能接受。

赵汀阳在讲座现场。

赵汀阳在讲座中说,人工智能涉及的问题包括两类,一类是比较近的问题,一类是远在天边的问题。近在眼前的问题很典型,不管我们愿意不愿意,我们马上就进入一个人工智能的社会,并且会遇到很多的社会问题,这些问题并不恐怖。远的问题真正有挑战性,一旦人工智能突破它的临界点(奇点),就有可能成为高于人类一种存在,进而统治人类。目前还不知道人工智能能不能达到这样的程度,但从理论上说应该有可能。

赵汀阳表示,有一些人反对人工智能,从伦理上或者是情感上进行批判,但这是无效的问题。因为人们对它的兴趣远远大于阻力,只要有大资本和国家力量的存在,人工智能就一定会胜利。比如说我们指望以后会有智能的生产,智能的城市,智能的建筑,智能的服务系统,智能的医疗,智能的交通等等。这些发展,明显可以减少生产成本,交易成本,减少能源的消耗,增加生产力、管理能力、财富。但是,有所得就有所失,人工智能的系统服务更是如此。人工智能将会导致我们过着很类似的生活,因为我们得到的是很类似的服务,我们能够买的都是很类似的产品,所得到的也是非常类似的信息,大家能拥有的东西都差不多。所以,将来人的面目和思维都很类似,也就不可能有什么个性。

赵汀阳还谈到了人工智能的伦理问题。“拟人化的人工智能在我看来比较危险。如果在感情和价值观上真的很像人的话,我认为会出事。为什么?因为人的欲望和价值观就是一切冲突的根据。如果说我们把机器人变成跟人一样,那就是把机器人变成坏人,所以这是非常危险的。”

赵汀阳说,比较严重但是遥远的问题,就是人工智能的临界点(奇点)在哪里?真正的危险是反思。也就是说,如果有一天,人工智能的思想对象是它自身,思想自身变成思想对象,比如提出这样的问题:我能够解释我自己吗?我是自由的吗?如果能够提出这些问题的话,那么人工智能也就达到了霍布斯、马克思这样的思维水平,马上就会引出“一切事情由谁说了算”这样的问题,那么,人工智能就会像人类一样要求修改规则。那就非常的危险。因此,必须为人工智能设置一个合理的限度,唯一的办法就是让人工智能的研究或者制造,停在一个高能力的水平上,但是又没有害,没有自我意识,然后就停步,不再往前走了。

“你想想几十年一百年之后人工智能它在能力上也许几乎等于神,但是能力强不怕,就是刚才我论证的危险之处不在于能力,而在于自我意识。如果他没有自我意识,那么这种高能力根本不是一个危险。”最后,赵汀阳提出一个结论:目前我们对人工智能的恐惧是夸大的,但是未来的危险是一定的,可能性是存在的。

讨论环节,中国科学院自动化研究所研究员、类脑智能研究中心副主任曾毅简要回顾了最近60年从简单机器人到人工智能研究的快速发展,但也指出,看似简单的事情,其实很难做,人工智能的现状还远没有想象的那么乐观,甚至连一个月大的小孩的智商都达不到。“因为你可以想象一个月的小孩的智商,他的智能水平远远超过现在的(人工智能)。很多人很乐观说,不对,因为很多公司号称自己做的大脑已经有两三岁的智能水平,还有已经号称60岁的智慧。我经常这样回答,你可以想想你家里的小孩1岁可以做到的事情,有多少是现在人工智能可以做到的。实际上这个是人工智能的现状。”

本文地址:http://www.reviewcode.cn/yunweiguanli/57394.html 转载请注明出处!

今日热点资讯