《Life 3.0》作者Max Tegmark亮相JDD大会 谈人工智能的赋能与制服

2018-11-21 14:21:11     来源:财报网

打印 放大 缩小

11月20日,由京东集团、京东数字科技联合主办京东JDD-2018京东数字科技全球探索者大会在中国国际展览中心新馆隆重召开,来自科技界、产业界、金融界、学术界、投资界五大圈层的大咖云集现场,共话数字科技。美国麻省理工学院教授、人工智能领域畅销书《Life 3.0》作者Max Tegmark受邀参会,并以“如何用人工智能是我们更强大,而不是被制服”为主题发表演讲。

Max Tegmark 是美国麻省理工学院物理系终身教授,世界人工智能领域的权威专家,也是未来生命研究所创始人,该组织汇集了包括史蒂芬·霍金、埃隆·马斯克、比尔·盖茨、拉里·佩奇在内的8000多名全球顶尖人工智能专家。

谈到人工智能及人类的未来,Max Tegmark在演讲中表示,技术的力量相当强大,在人工智能的未来应用上,需要注意的是,“别让技术制服我们,而是赋能我们”。

以下为Max Tegmark现场演讲全文:

我今天的发言主题,是技术。技术的发展确实给我们带来一些负面的影响,但我们也要看到,技术也有很多是正面的。有一个非常好的比喻,就是把人工智能比作发射火箭,如果你想让人工智能变得非常强大,有一个好的结果,那单有强有力的动力还不够,我们必须要很好地掌握方向,并且了解怎么样去应用它。关于人工智能的发展,我认为至少要思考三个方面的问题。

动力

首先,是发展动力的问题。人工智能是一种智能,而不是一个生物性的东西,本质上就是信息处理。我们以前看到机器人不能走路,但是它们现在甚至可以跳跃了;以前我们还没有自动驾驶汽车,现在已经有了自动飞行火箭;以前人工智能还无法进行人脸识别,现在它们甚至可以生成人脸、模拟人脸;以前人工智能无法在围棋上打败我们,AlphaGo和人类对弈,打败了人类。

也就是说,以前我们对人工智能进行的更多是一些抽象研究,但是现在它已经深入到我们的生活中来。比如说,人工智能在医学上的应用,使得它甚至比人类的医生更好,可以更好诊断各种各样的疾病,从而挽救更多人的生命。对于中国这样一个步入老龄化的国家而言,人工智能在养老陪护方面也许还能发挥更重要的作用。也就是说,人工智能在很多方面都得了很好的应用,所有这些都是人工智能带来的积极变化和进步。

我们已经取得了很多在人工智能方面的积极进步,但是依然面临很多问题。

再举一个例子,如果把海平面代表人工智能,那随着气侯变化、海平面上升,人工智能的能力就会不断增长。但是面对海平面的上升,我们还必须小心谨慎,要考虑这个海平面会上升多少,是否会把所有的陆地都淹没。放在对人工智能发展方面的思考,那就是要考虑人工智能是否会替代人类所有的工作?人工智能到底能够做到什么地步?

很多人说不要害怕,因为人可以打败人工智能,可以做很多工作。也有人认为,人工智能可以比人做的好,而且可以进一步创造更高级的人工智能。所以,未来的人工智能还会更强。也就是说人工智能自己可以自我演进,越来越改进,最终成为超级人工智能。

那超级人工智能到底是科幻小说还是应该严肃认真对待的话题呢?,我有一个同事认为通用人工智能要过几个世纪才能发生,另外一位谷歌公司的朋友则说超级人工智能会来的比想象更早。

所以最终的问题是,超级人工智能来了以后会发生什么?如果机器可以做所有的东西,而且劳动成本更低,那人还有什么用呢?留给人类的也许只剩一个选择,那就是只管造机器就行了。

方向

所以,我们要考虑到人工智能发展的方向,这就是我们火箭发射比喻的第二点。即火箭有了动力之后,必须要考虑到它未来飞行的方向。

我发起的一个组织——生命未来研究所,主要议题就是思考各个国家在人工智能方向该如何发展。我个人是非常喜欢技术的,我对技术是乐观派。但我认为技术发展的前提是,人要和技术同步成长。我们生活中的许多东西,都是基于不好的教训发明出来的。比如说着了火,我们才发明灭火器;出了车祸,然后才发明了红绿灯、安全带等等。从科学进步角度来说,我们还是需要让技术变得强大,但是一定要从技术当中要吸取教训。

比如说发展超级人工智能,我们还是应该积极来考虑。有人说超级人工智能不是什么好东西,但我认为它也并非就一定是害人的东西,只是我们应该做好“安全工程”。所谓“安全工程”,是指我们要做好应对最坏结果的打算。比如我们在发射卫星前,就要考虑到发射卫星的整个过程中可能有什么问题,要不然发射之后人在天空中怎么办。

技术的发展方向是全球所面临的问题,任何国家都无法回避,也无法单独解决这个问题。但我认为中国在这方面可以发挥更多作用,可以为全球引导出一个正确的人工智能发展方向。一方面是中国有技术,另一方面中国有文化。技术层面,目前中国在人工智能方面已经是一个非常领先的国家,中国的领导人也非常重视人工智能的发展,我了解到京东在技术发展方面一直在引领行业。但是同时必须考虑人工智能的安全性问题,这方面,中国是一个拥有古老文明的国度,看待问题目光长远,所以,中国可以帮助全球制定一个全球共同认同的目标。

我所在的生命未来研究所,在2017年1月提出了一个23项人工智能的发展原则——阿西洛马人工智能原则。在我们的发展原则中,我们认为发展人工智能,一方面要坚决避免武器的竞争,因为从技术角度来说,武器一方面可以保护人,另一方面可以伤害人。我们发展人工智能,一定要避免它们对人造成危害。

阿西洛马人工智能原则中另外一个重要原则,就是人工智能的发展应该能给人带来收入增长,改善人的生活品质。目前我们大多数人都认为人工智能可以带动经济大幅增长,增长到什么程度我们不知道,反正是很多人都能从中获益。那人工智能是否也要考虑“安全工程”的问题呢?比如用人工智能进行基础决策时,要确保其决策的可信度。所以这就要求人工智能的发展要考虑到价值同盟,价值同盟是什么意思呢?以超级人工智能为例,我们发明了超级人工智能,一定要让他理解我们的目标,同意我们的目标,维护我们的目标,这样才能确保方向不出错。

目标

那我们的目标到底是什么呢?这就是我刚才举的火箭发射例子里的第三点。火箭有动力了,又有了方向,但是它的目标到底是发射到哪呢?

目前基本没有人谈论人工智能的发展目标。因为所有的人工智能发展目标都是短期的目标、商业性的目标。我们生命未来研究所的阿西洛马人工智能原则最后一个,也是最重要的一项原则,就是超级人工智能必须得有助于人类才应该继续发展。中国国家主席曾经提出要构建人类命运共同体,这个人类命运共同体和我们的原则是高度一致的。因为人工智能的力量如此强大,发展到一定阶段,要么就是让我们共同成功,要么就是让我们共同毁灭。所以我们应该站在更高的高度看待这个问题,首先所有的国家都应该共同发展人工智能,但是一定要有长远的眼光,要考虑风险,否则这很可能是人类历史上犯的最大的一个错误,甚至会带来整个星球上前所未有的灾难,甚至会导致人类的灭绝。为了避免这个最坏的结果,所以需要全球进行合作,一起来解决人工智能“安全工程”的问题,这样可能带来我们美好的未来。

总而言之,对于人工智能的发展,我的态度是非常积极的。只是发展的原则应该是技术别超过我们人类的力量,最终应该让人工智能给我们人类赋能,这样才是正确的发展方向。

关于JDD-2018京东数字科技全球探索者大会:

JDD-2018京东数字科技全球探索者大会于11月20日在北京中国国际展览中心新馆举办,总奖金达220万元的同名大赛于同天上午正式启动。本届大会由京东集团、京东数字科技联合主办,KDD China为学术指导单位,APEC中国工商理事会青年企业家委员会为支持单位。大会旨在连接科技界、产业界、金融界、学术界、投资界五大圈层,搭建一个全球化的开放平台,共同探索数字科技创新之道,实体经济数字化升级之路。

相比去年的首届大会,本届JDD大会规模再创新高,共有来自政府部门、金融机构、投资机构、大型企业和科研院所的近3000名嘉宾,包括400名业界大咖出席了大会。京东数字科技CEO陈生强、京东集团首席技术官张晨与30余位重量级嘉宾在大会上畅谈未来数字科技发展趋势,其中包括中国工程院院士、原中国工程院常务副院长潘云鹤,中国工程院院士、中国农业大学动物科技学院教授李德发,麻省理工学院教授、生命未来研究所主席、畅销书《Life 3.0》作者Max Tegmark,美国国家工程院院士、MIT人工智能实验室主任Daniela Rus,日本机器人“教父”、ROBOGARAGE公司创始人兼CEO高桥智隆,知名科幻作家、雨果奖获得者、“童行学院”创始人郝景芳等国际知名学者和业界领军人物。

标签:

相关阅读