马斯克:若不能在21世纪解决这些问题,人类将大难临头
科技

马斯克:若不能在21世纪解决这些问题,人类将大难临头

2021年03月23日 14:06:53

图片

撰 文 | 胡 泳 北京大学新闻与传播学院教授、“信息社会50人论坛”成员

责 编 | 齐 卿

“我一直在想眼前有哪些问题,最可能影响人类的未来?我认为,地球面临的最大问题是可持续能源,也就是如何用可持续的方式,生产和消费能源。如果不能在21世纪解决这个问题,我们将大难临头。而另一个可能影响人类生存的大问题,是如何移居到其他星球。第一个问题,促使我成立了特斯拉和SolarCity;第二个问题,则让我创立了太空科技公司SpaceX。”

近日马斯克在媒体采访时谈及创立特斯拉、SolarCity及SpaceX的原因。

英国作家伊安·莫蒂默(Ian Mortimer)的书《变革的世纪》中,讨论了这样一个问题:哪个世纪我们看到的变革最多?莫蒂默认为,11世纪最重要的东西是城堡,12世纪是法律和秩序,13世纪最重要的发明是市场,14世纪最大的变化是瘟疫(当时黑死病横扫整个欧洲,死掉三分之一的人口),15世纪是哥伦布,16世纪是个人暴力的减少,17世纪最关键的是科学革命,18世纪是法国革命,19世纪是通信,而20世纪最重要的变革是对未来的发明。

毫无疑问,技术极大地改变了我们在20世纪的生存和死亡方式。但是,它也标记了可能更为深刻的变化。1900年,很少有人认真考虑过未来,而今天,我们几乎预测所有事情:天气会怎样,股市又如何,我们需要什么样的住房,我们的退休金将价值多少,等等。我们越来越多地讲述将要发生的事情,而不是已经发生的事情。在这个意义上,我们把20世纪视为现代世界开始的起点——人类从此开始考虑未来。

21世纪,迄今已迈过20年。如果说20世纪是现代世界的起点,那么,我们又将如何描述21世纪?

我认为,21世纪是人类历史上最重要的世纪,虽然这个世纪还远远没有过完。这并不是因为你我身处这个世纪——我们都知道,人类拥有一种将自己的时代看成前所未有、独一无二的倾向。存在三个核心论点,可以证明我们生活在人类历史的关键时刻。

图片

危险时刻

第一个论点可以叫作“危险时刻”理据。

这个理据很简单:本世纪我们只有克服巨大的挑战才能拥有任何未来,仅此一点,就足以使其成为迄今为止所有世纪中最重要的世纪。假如被这些挑战所击败,人类就将处于毁灭的边缘,这也令本世纪比未来的世纪更加关键。

牛津大学的哲学家托比·奥尔德说:“按照人类历史的标准,我们目前正处于一个非常特殊的时期,我们的行为可能会破坏我们的世界。”他的同事尼克?波斯特洛姆将此称为人类的“存在风险”(existential risk),即某些威胁可能导致人类灭绝或摧毁起源于地球的智慧生命。

过去,人类不可能完全消灭自己。然而,并不算太久之前的1945年,人类在战争中首次使用核武器,发展出灭绝自身的能力。从那以后,我们不断磨炼这种死亡能力,现在地球上有了成千上万件核武器。专家们对核战争到底会带来多大的灾难持不同看法,但很显然,人类自毁不再遥远,而且每年都在变得越来越容易。

我们也朝着其他威胁文明的方式迈进——从气候变化到流行病,从基因技术到人工智能。随着我们侵占自然并把地球人口扩大到80亿人,病毒可能反复来袭,这是与我们作为一个“成功”物种必然相伴的灾难。气候变化不会使地球变得无法居住,但它肯定会使其变得更脆弱,弹性更低,全球协调性下降,并且更容易受到生态系统或地缘政治环境的其他冲击源的影响。人工智能研究者对于颠覆性AI技术究竟是10年还是200年到来并没有共识,但许多人同意,除非经过精心设计,它的降临将会是灾难性的。

根据存在风险论,从我们发明各种自毁方法到某种形式的全球治理浮现,令我们可以通过协调而系统的方式解决挑战,而不是依赖运气的时期,构成历史上的枢纽期(the hinge of history)。只有我们在接下来的时间内采取明智的行动,人类才将得以度过最危险和最具决定性的时期。没有度过这个时期之前,你我他、每一个人,都是凭借着运气生活,存在着巨大的偶然性。

不能确定这个非常特殊的时期正好是一个世纪之久;它很容易持续数百年。但极其明显的是,枢纽期将不会永远持续下去。如果我们每年仅靠运气生存,那么到了某些年份,我们会倒霉。

图片

美国人口生态学家保罗·艾里奇最有名的著作是1968年出版的轰动一时的《人口爆炸》,该书认为世界人口当时已经超过了地球生态环境的承载能力,正威胁着整个人类的生存。由于出版社的决定,他的妻子安妮·艾里奇没有成为《人口爆炸》一书的共同作者。但之后的很多书和文章都署名为艾里奇夫妇。

这对夫妇写过一本书叫《灭绝》,前言里讲了一个寓言故事,很快就在生态学术圈中流传开来,就像“人口炸弹”的比喻对外界发生巨大影响一样。

这个故事讲述的是,一名旅客注意到一个机修工正从他将要乘坐的飞机机翼上敲出铆钉。机修工解释说航空公司将因此获得一大笔钱。同时,机修工也向这位震惊的旅客保证,飞机上有上千铆钉,绝对是万无一失的。事实上他已经这样做了一阵子了,也没见有飞机掉下来。这则寓言的重点在于,我们无从知晓究竟哪一颗铆钉会是导致飞机失事的最后一根稻草。但对于乘客而言,哪怕敲掉一颗铆钉都是疯狂的行为。然而艾里奇教授却严正指出,在地球这艘大型宇宙船上,人类正在以越来越快的速度敲掉一颗颗的“铆钉”:“生态学家并不能预言失去一个物种的结果,正如乘客无法估计飞机失去一颗铆钉会有什么后果一样。”

这个寓言精妙地显示了,我们每一年都在依靠运气生存。因此,存在风险的研究者希望我们能够结束导致危险的全球局势,而不是仅仅试图度过每一年的危险。如果我们能够做到这一点,它将对未来产生巨大的决定性影响。

价值锁定

第二种理据叫作“价值锁定”。

价值观锁定的观点认为,在不久的将来,人们可以通过某些方式,为更遥远的未来的人类后代锁定一种特定的路线。如果这样做,我们需要确保我们不会锁定未来道德进步的潜力。

一些研究人员认为,开发更先进的技术将意味着,把有关人类价值观的许多最重要的问题,有效地置于人类控制之外。如果我们对率先问世的先进计算机系统进行编程,让它分享我们的价值观,那就是它会做的,哪怕我们后来决定我们想要某种不同的东西。

第二次世界大战时期,阿兰·图灵密码破译小组的首席统计师兼数学家I.J.古德,大概是清晰阐述人工智能未来图景的第一人。在那段写于1965年、后来被经常引用的名言中,他这样写道:“我们把超智能机器定义为具备超越所有聪慧人类智能活动的机器。考虑到设计机器是智能活动的一部分,那么超智能机器甚至能够设计出更好的机器。毫无疑问,肯定会出现诸如‘智能爆发’这样的局面,人类智能会被远远地甩在后面。因此,第一台超智能机器将是人类创造的最后一台机器,当然前提条件是这台机器足够听话,并告诉我们要怎样才能控制它。”

图片

在《超级智能》一书中,尼克?波斯特洛姆循着古德的思想认为:“如果有一天我们发明了超越人类大脑一般智能的机器大脑,那么这种超级智能将会非常强大。并且,正如现在大猩猩的命运更多地取决于人类而不是它们自身一样,人类的命运将取决于超级智能机器……一旦不友好的超级智能出现,它就会阻止我们将其替换或者更改其偏好设置,而我们的命运就因此被锁定了。”

所以,超级智能带来的挑战,很可能是人类面对的最重要和最可怕的挑战。而且,不管我们成功还是失败,这大概都是我们将要面对的最后一个挑战。“我们要的不仅仅是娴熟的技术以引燃智能爆炸,我们还要能在更高水平上掌握控制权,以免我们在爆炸中身首异处。”

大多数关注“价值锁定”的研究人员都在考虑人工智能问题。不过还有一种更一般的说法。牛津大学学者威尔·麦克斯基尔将其总结为:“最关键的点是,我们如何开发用于设计谋划人类后代的动力和价值的技术(可能通过AI,但也可能通过其他技术,例如基因工程或先进的洗脑技术)。”换句话说,如果我们在这一步形成的是足够专制和强大的威权,新技术可能意味着子孙后代将无力推翻或改革它。

群体行动

关于21世纪如何与众不同,还有最后一种理据。在大多数历史上,即使人类就某一种行动方针达成一致,整个世界也无法围绕这种方针进行协调。而全球通信技术已经改变了这一点。

在涉及人类交往的情况下,群体行动问题无处不在,因此是经济学和政治科学的核心。例如,诺贝尔经济学奖获得者埃莉诺·奥斯特罗姆就声称,“群体行动理论是政治学的中心主题”。任何时候,只要个人在不付出时间和精力的情况下,可以从他人的昂贵行动中受益,社会就会面临群体行动的困境。而在如此困境中,人类并非一筹莫展,是可以找到应对机制的。21世纪的一个关键任务,就是去发现并实行这样的应对机制,由此在全人类的层面上达成一致并开展共同行动。

同样,在大多数历史上,经济增长缓慢或者根本没有增长。而现在,经济正在快速地增长,各行各业都充满了变革性。有人认为这不可能持续到遥远的未来,因为各国仍然在使用20世纪的标准来衡量幸福感,这个标准就是国内生产总值(GDP)。为了全球经济的可持续发展,我们既需要捕捉生产资本和金融资本,也需要重视劳动力技能(人力资本)、社会凝聚力(社会资本)和环境价值(自然资本)。

图片

形成未来的两条道路

所有这一切,使得21世纪成为一个不寻常的时刻,也许是决心改变世界的人们被赋予这样做的非同寻常的权力的时刻。听起来,有关21世纪是否可以称为人类历史上最重要的世纪的宣称,不论你同意也好,不同意也好,似乎都是主观抽象的看法。然而对这个问题的回答,其实绝非无关紧要。

如果21世纪是一个非常关键的世纪,那么对长期未来而言,最好将重点放在我们面前的紧迫挑战上,比如将我们所有的资源都用于应对即将到来的最大威胁。而如果它并不那么关键,那么专注于我们如何塑造子孙后代就更有意义了——也许建立新的长期机构、资助哲学和伦理研究以及努力改善网络时代的教育,对未来才是更重要的。

一些研究远景的人认为,我们最需要采取有针对性的干预措施,以使远景变得美好。所谓有针对性的干预好有一比,就像阻止小行星撞击地球一样。其他人则倾向于以非常广泛的方式来帮助形成遥远的未来,例如使民众变得更加利他、受过良好教育或富有同情心,相信无论未来遇到什么问题,这些方式都可能提供帮助。由此,判定本世纪是否独特,或者至少是非同寻常,可能会影响到一个决断:到底是有针对性的干预好,还是广泛的帮助更好。

我想引用过去十年来,量子技术的快速增长来进一步说明这一点。未来虽仍然是不可预测的,但幸运的是,量子理论告诉我们,不可预测性不一定是一件坏事。实际上,可以将两个量子位锁定在一起,以使它们各自都不确定,但同时它们又可以完美地实现同步——两个量子位均为0或均为1。也许它也为我们如何面对未来提供了一个教训。通过负责任的计划,同时也包含未来的不确定性,人类可以提高为未来做好准备的概率。

简而言之,我们如何看待本世纪的威胁,可能会大大影响我们如何应对这些威胁。而当全世界最需要大国携手处理一些关键事情的时候,中美却在分道扬镳。这进一步加剧了我们面临的风险,更加使得21世纪成为人类历史上最重要的世纪。

图片

网站地图 ag真人百家乐 澳门赌场 申博太阳城注册 申博现金网
www.988msc.com 菲律宾太阳娱乐场登入 太阳城会员登入 菲律宾太阳娱乐
澳门大三巴赌场 申博娱乐开户 捕鱼游戏 太阳城登入
申博代理开户 百家乐真人游戏 申博太阳城登入 咪牌百家乐
真钱百家乐 申博官网登录 百家乐登入网址 申博游戏手机下载