您的位置:中国财经观察网 > 金融 > 正文

新智者首席Time对谈皮埃罗·斯加鲁菲:无惧失控 拥抱AI的不确定性

2023-08-10 15:34:57     来源:中国财经观察网  阅读量:8809   会员投稿

日前,由微博、新浪新闻共同打造的AI跨界对话栏目《新智者首席Time》完成第二期节目上线,人工智能学者高庆一作为嘉宾主持人,与《人类2.0》作者、“硅谷精神布道师”皮埃罗·斯加鲁菲通过对话形式探讨了新AI浪潮下,人与机器之间的关系、人工智能的失控与不确定性,并探索了人类未来科技新趋势等话题。

 

 

以下是“新智者首席Time”对话实录,内容经过编辑略有删减:

 

高庆一:今天特别高兴在新智者首席time我们有机会采访皮埃罗·斯加鲁菲。很有意思的是,在2018年,我记得,我随便在我的书店里面看了一本书,叫做人类二点零(Humankind 2.0),皮埃罗不仅仅是一个人工智能学者,他同时还是一个硅谷的创业者,也是一个硅谷的投资人。他非常了解欧洲,也非常了解硅谷,甚至他来中国的次数也非常多。所以一个人又了解亚洲、又了解欧洲、又了解美国,对于科技创新的现状、历史和明天,我相信今天的对话,能够给我们大家以一个启发。

 

皮埃罗先生,我非常荣幸有这个机会和您交谈,你知道自2022年10月以来的100天内,我们都见证了诸多神奇的科技发明,也就是ChatGPT、可控核聚变以及室温超导。我还注意到您在2017年提到一本新书,这是怎么回事?您预测到了未来科技?

 

皮埃罗:这不是预测。我只是听到了大家正在讨论的东西,有些预测成为了现实,有些预测没有实现,我的意思是说,如果你的朋友圈里有来自各个领域的业内人士,这就容易多了,你只要倾听,然后再想想哪些科技能够让我们改变世界,这才是最重要的。我想这就是欧洲与美国之间的一个巨大差异。我在欧洲出生,在欧洲,人们更多关心哪个是真实的,对吧。而在美国的东海岸,哪一个是真实的,哪一个是我能够很快应用的,而我想在旧金山湾区,人们更多关心的是哪一个将会产生更大的影响,然后你会相信人们会竭尽全力去开发那个能够产生真正影响的科技,所以我认为我受到了这种精神的影响。

 

高庆一:如果让您从未来科技中删除一项或者新增一项新技术,那么您的选择是什么呢?

 

皮埃罗:这个问题非常好。有一件事,关于新材料,因为我想我们正逐渐接近能够创造新材料的革命阶段,而不是寻找诸如超导体这样的材料,我们正在寻找具有超导性能的材料,我想下一代将能够创造这种材料,而不是寻找这种材料,我们正逐渐接近于这种材料。我得说我知道这是一项绝密的技术。

 

高庆一:好吧,我们来聊聊这次访谈的主题吧。第一个问题是关于人类社会的,我相信这个问题您已经回答了好多次,我想每个访谈都是从这个问题开始的,那就是,您认为在未来人工智能是否会赶超人类。但是,我想从另一个角度提出这个问题,您认为人类与机器的关系,人机之间是互为替代的关系、是敌人或者是朋友关系?双方会携手创造未来,还是构成竞争关系?我们需要竞争,机器会赢,还是人类会赢,您怎么认为?

 

皮埃罗:我们能与并非人类创造的动物一起共存,我们为什么不能与我们制造的机器共存呢,是机器具有更高智能吗?当我还是个孩子的时候,每个人都认为智能就是指数学能力,世界上第一台电脑,哪一年制造的,1940年,1951年?

 

高庆一:1956年,冯·诺依曼。

 

皮埃罗:他已经制造出来了,那台电脑当时比任何一个人都更加智能,所以说那不是个问题,问题是我们人类能够与周围的智能的东西共存,并利用这种智能,这就是我的观点。

 

高庆一:这是一个关于失控或者受控的问题吗?因为有人说你提到了动物,而人类可以杀死动物,所以说人类比起动物而言具有更高智能这一优势,但机器有时候会失控,甚至埃隆马斯克说过,如果我们任由人工智能自由发展,有时会威胁到人类的安全,因此您是否认为人工智能处于受控状态?

 

皮埃罗:我们人类创造了一个非常复杂的社会,有时候这个社会是会失控的,有两种非常明显的很可怕的情况,第一种就是经济,时不时地经济会崩溃,为什么呢?是经济学家很愚蠢吗?不,他们都是非常有智慧的人,但世界经济非常复杂,如果泰国或者阿根廷出了问题,爆了,你猜怎么着?

 

高庆一:整个经济崩了。

 

皮埃罗:我们的经济崩盘了,简直难以置信。2007年的经济大衰退他们还在讨论这个经济崩溃的原因,20年过去了,大家还是不清楚经济危机的产生原因,所以说经济是个问题。另一种情况,当然就是国际政治,你知道的,不知怎么的这个地方发生了战争,一会儿另一地方也发生战争,谁能预料到呢?没有人。战争爆发的原因是什么?于是历史学家写出了许多大部头的书来阐述。所以说我们人类创造了许多失控的复杂系统,这就是现实。现在,就人工智能而言,埃隆·马斯克这样的人这样告诉我,但是人工智能发展非常快,项目推进也很快,对吧,这没错。但是有些人希望人工智能的发展速度降下来,对此我没有特别的想法。我们该如何做呢?我们该如何处理这类复杂系统呢?比如说,出现了某种气候变化,这种气候变化很大,我们该怎么应对气候变化呢?我认为这些问题比人工智能要严重得多。因为在这类情况下,人类会陷入非常大的困境,可能导致数百万人的死亡,那么我们该如何应对这类事情呢?是有一门领域,准确说,叫混沌理论,社会学家会研究这个理论,我们该如何应对这类事情呢?对于这类复杂问题,我们应该如何表明自己的立场呢?这对于人工智能来说不是个新问题,唯一的区别是人工智能发展非常快,对吧,因此我们或许应该把速度降一降,也许各国应该达成共识,机器不得快速作出决策。

 

高庆一:是的,我们需要应对不确定性,不仅仅是人工智能。但是我常常在想为什么人工智能,你觉得人工智能真的会伤害人类吗?有没有这种可能性?

 

皮埃罗:任何软件都可能以各种不同的方式伤害到你,但是如今的人工智能技术的一个问题是,不确定性。如果你回到人工智能的初始阶段,其基础是数学逻辑,那么,优势是什么呢?优势就是它很精确,就是逻辑。A至B至C至D至E然后是结论。第二点,你可以一直问为什么,它会回过头来告诉你,因此这个、因此这个、因此这个、因此这个。对的,符号系统,就是数学,全部是数学逻辑。对于如今非常流行的人工智能而言,这有点令人担忧,因为人工智能并非基于逻辑,而其本质是不确定性。你知道的,人工智能很厉害,能够做很多事情,比如说人脸识别。人脸识别就是不确定性推理的一个范例,有时候你在大街上看到某个人,你会说哦那是我朋友,哦搞错了,不是我朋友。甚至包括我老婆,我要去接我老婆,这时候有个人出现了,说嗨,然后说对不起对不起。好了,这就是不确定性推理。这就是不确定性。因此当我获得这个结果,如果我问为什么,机器不能回复,因为机器不能够从数据中得出结论,正如你不能从很多事件中得出结论,这就是我所想说的,这样就会导致更多的危险。不是因为机器不精确,或者说不确定,而是因为我们应该在使用信息时更加谨慎小心。你提到了ChatGPT,这是个很好的例子。ChatGPT是个很棒的生产力工具,但你必须记住这个工具并不精确,ChatGPT是非常非常容易出错的,现在呢有些人仅把它用作生产力工具,可以帮我写出完美的代码,但是你不能让ChatGPT为核武器写代码。

 

高庆一:确实不能

 

皮埃罗:显而易见是不能的,所以说你必须小心谨慎。你该如何使用一个不太精确的工具,比如说你在建一座桥,建造桥梁的人可以使用物理知识,但是他们知道要想把桥建造得更加坚固,仅靠物理知识是不够的。所以,当你使用ChatGPT的时候,确保你还有别的信息来源,或者你就是专家,能够控制ChatGPT的运行,这对于新的人工智能,另一问题就是这是人工智能,它并不精确,你不能问为什么,你甚至不能询问信息来源。我还在使用谷歌,为什么呢,谷歌或者其他搜索引擎,因为我能够看到信息来源,谷歌告诉我是这个页面,但是ChatGPT,如果我问尼日利亚的首都在哪里,阿布贾。好的,信息来源是哪里?ChatGPT不知道。区别很大。

 

高庆一:因此权威性非常重要,权威性就意味着你的信息来源,但是你知道,在机器学习中

这是种监督式学习,或者说强化学习,在当时,没有人对此表示担忧,但对于深度学习,我们失控了。我们认为这是个黑箱,我们不知道这个机器究竟在想什么,甚至于我们能够控制机器的简单逻辑,但我们不能控制其结果。所以问题是,我们怎样才能让人工智能系统与人类价值观保持统一?

 

皮埃罗:首先,这不是一个新问题。因为自1983年以来我一直从事人工智能的工作,至今40年了,新技术层出不穷。一直觉得我们在做某种可怕的事情那种恐惧,我们为什么会这样?我们人类总是善于担忧,这很好,我希望人类保持担忧,只有这样,我们才能防止出现问题。

 

高庆一:下一个问题,我想您已经回答过好多次了,未来人工智能会大规模取代人类的工作吗?

 

皮埃罗:最简单的回答是会取代的,但这不是真正的回答,每一台机器都取代了人类的工作。一个世纪前,大多数人都是骑马,120年前,人们大多数骑马旅行而不是开车,这些马哪里去了,以及你知道的那些喂马的人呢?换工作了。我还是孩子的时候,有许多人都是用打字机打字的,这些工作呢?消失了。我小时候在意大利生活,那里每个十字路口都有交通警卫,有交警在指挥交通,现在路口都是交通灯,我们有多少个交通灯?准确说,有数十亿个交通灯,这类工作呢?全部没有了。因此每一项技术都会导致工作的变化,所以当你说失去工作,我更愿意说工作变换了。你这么说暗含的意思是没有创造就业机会,这不准确。国家变富了,中国更富了,美国更富了,欧洲更富了,你知道的,技术让人们更加富裕了,而不是让人们更穷了。而我也是二十世纪八十年代新创造的工作机会的受益人之一,我学的是数学,但幸运的是,我成为一名软件工程师,否则,我今天不会在这里接受采访。我的父亲是食品销售人员,他生活得很好,这没问题,所以说,你应该问我的问题是,新技术将创造出哪些就业机会,因为人们无论年龄大小,必须开始考虑那就是未来的社会,这个才是真正的问题。对于ChatGPT来说,知道谁会丢工作,这个是重要的。在有些情况下,答案很显然,在某些情况下,答案并不那么明确,会创造出哪些工作,这个问题问得好。最近 Anthropic在旧金山市成立了一家新公司,这个新创公司公开招聘提示工程师,提示工程师是什么工作?我不清楚,但是薪水很丰厚。对吧,这可能是个新的职业,所以你不妨去试一试。总而言之吧,就我看来,显而易见,新的就业机会创造出来了,有的工作消失了,但这只是一个方面,你得告诉我还有哪些工作被创造出来了,然后我们可以对比分析,创造了多少,以及薪水怎么样等等。至于我的薪水,我的第一笔薪水比我父亲一辈子挣的全部薪水还要高,他从未挣过这么多的钱,我的第一笔薪水,这对他而言是足够羞辱的,所以说,你得考虑过去的情况,而不仅仅是问哪些工作因此消失了。当然,任何技术,按照定义,任何技术都意味着有些工作会被淘汰,我们进入了一个新世界,但你得问一问哪些新的工作确实被创造出来了。

 

高庆一:确实是这样,你认为ChatGPT是个中间界吗?因为在学术界,对于写论文、写文献综述的博士生,所有这些章节,均可由ChatGPT代劳吗?他们可以得到非常不错的文献综述,阅读该领域的每一份论文,并写出非常好的概要,你认为ChatGPT或类似的东西,如AI成为一种中间界,因为我们可以将其用作工具,协助我们做好本职工作。

 

皮埃罗:这些工具可以帮助人们完成工作,正如我之前所说的,这些工具已经帮助人们编写软件程序,现在,如果你是个软件工程师,你肯定会担忧不已,但是如果ChatGPT使得数百万人能够编写软件程序,那很好,软件工程师已经赚了不少的薪水。

 

高庆一:我对这个问题很有兴趣,那就是,将来人工智能机器人会有与人类一样的情感和情绪吗?他们在未来会拥有像人类一样的各种情绪吗?我们会生气,我们会开心,我们会笑,我们还会哭,你认为未来社会机器会有与我们人类一样的情感和情绪吗?

 

皮埃罗:这实际上是两个问题,一个问题是,机器人会像有情绪的人那样说话做事吗,我认为最好不要这样,因为我们人类很容易就生气,所以说,这是一个问题,实际上取决于我们如何给机器设定程序,这个我们可以避免这种情况,尽量保证回答中不含这些内容,因此我希望我们的聊天机器人能学习我们人类的良好行为,而不是学习我们人类的恶劣行为。这确实是个很大的风险,因为ChatGPT会阅读Facebook(脸书)、Twitter(推特)上的东西,它会看到大量的表达愤怒的内容,许多人相互叫骂。对吧,因此这是个问题,如果你问的是关于情绪感受方面的神经科学,我不知道答案,我不认为是这样,我认为人天生如此,天生具有感知情绪的能力。个人观点,如果你天性不是如此,你可能无法感知情绪,这还是我的个人看法。对于机器而言,我更感兴趣的是言行,机器是否会表现得,比如说,不理性,当我们经常生气的时候这叫不理性,因为如果我生你的气,你也会生我的气,有时候我们制造更大的麻烦。

 

高庆一:好了,让我们谈一谈中国市场吧,ChatGPT现在风靡全球,中国互联网行业也为之振奋,越来越多的公司和投资人选择加入大模型这片蓝海,这也包括阿里巴巴、百度等知名企业。据您了解,国外的企业也有这么疯狂吗?我觉得呢,肯定也是这样吧。

 

皮埃罗:实际上,在欧洲,我刚刚从欧洲过来,而且我对欧洲非常熟悉。在欧洲,大家的兴趣很低,所以我认为他们不是那么的疯狂,我认为最疯狂的一类人是艺术家,艺术家对这类事物非常疯狂。但是在科技界,我没有看到大家都是一片欢腾,我认为他们都是非常讲究实际的,他们知道这个技术的局限性,他们也知道这个技术的成本。我的意思是说,只有非常有钱的大企业才能承担起这些训练机器的运行成本,所以我认为欧洲人对这项技术的兴趣并不大。而在美国,也主要局限于旧金山湾区,我认为对大多数人来说,这个局限指的就是那些机器,因此需要这类大型机器,所以呢,这个技术的吸引力是有限的。你知道为什么通用电气或者福特公司会在这项技术上投入巨资吗?一旦技术成熟,他们可以从Open AI公司获得这项技术,所以我认为最兴奋的人主要是加州人和中国人。

 

高庆一:艺术家对NFT(非同质化代币)非常追捧,艺术家对ChatGPT也非常追捧。

 

皮埃罗:我们西方人有一个很大的优势,我们鼓励艺术家,我们资助艺术家,而艺术家会产生大量的奇思妙想,你知道吗。是谁创造了网络空间这个概念?是一位作家。是谁创造了元宇宙这个概念?也是一位作家。你知道的,艺术家都有很好的灵感,有这么一家新创公司,他们是做某种东西的,具体产品我忘了,我读了那个访谈文章,当访问者问公司的创始人,对于这个疯狂的创意,您是如何获得灵感的,他们开始提到科幻小说、电子游戏、甚至是音乐,他们并没有提到史蒂夫·乔布斯或爱因斯坦等等,所以我认为中国人低估了艺术家对我们社会的巨大贡献,甚至对于元宇宙来说,谁是虚拟现实元宇宙的首批用户呢?

 

高庆一:是艺术家。

 

皮埃罗:游戏,顺便说一下,游戏公司会聘用艺术家,而艺术家会产生许多奇怪的创意,在元宇宙里做哪些事情,甚至是智能手机,iPhone手机之前的老的智能手机。当我还没有这么一部手机的时候,许多艺术家就拥有一部这样的手机,想象力和绘画,确实如此,想象力,创造力,而且他们不一定要赚钱,这是个很大的区别。新创公司必须要赚钱,可能不一定是在六个月内,但你必须有个商业计划书。艺术家可以产生一些疯狂的想法,然后你仔细思考,你知道,比如说,哇哦这个想法很意思。

 

高庆一:非常棒

 

皮埃罗:你知道的,iPod,就是那个让苹果公司起死回生的产品,当时我在新加坡开会,那个老板走进会议室,非常生气,把各种亚洲生产的产品放在那里,MP3播放器这是在亚洲生产的产品,日本吧,也可能是中国,中国香港等等吧。他把这些东西一股脑放在那里,然后说,你们谁能给我解释一下,为什么iPod会大火,为什么我们的小孩子都在买iPod呀,而不买这些产品呢?这些产品兼容MP3,内存更大,质量更好,老板非常生气,关键是什么,是设计,这看上去很酷,没错,这个看上去很酷。就这样,这就是艺术家的功劳,我不可能设计出很酷的产品。史蒂夫·乔布斯聘用了设计师来设计iPod,这产品甚至和MP3不兼容,也不是最便宜的,甚至不是,但是它很酷,这是一个很典型的例子,所以我认为中国人低估了艺术家对于技术进步的贡献。

 

高庆一:您说得对。您认为什么样的企业在这条赛道更具有竞争力?

 

皮埃罗:哪个赛道?

 

高庆一:ChatGPT大模型。

 

皮埃罗:嗯,现在这样的公司很少,只有Open AI、谷歌等,我认为Meta公司拥有非常好的技术,这类公司很少,更好的问题是哪些新创公司有能力发起挑战,挑战现有格局。我不希望整个市场仅由3-6家公司,包括中国公司所主导,所以说,哪家新创公司能够对这些大公司发起挑战呢?我们有几个仿人聊天机器人,现在有几家不错的新创公司,确实兴起的比较少,很多这类公司的投资人以前曾在谷歌、Meta、Open AI公司工作过,这是更有意思的问题,我不希望整个市场仅由大公司所主导。

 

高庆一:在中国,投资人以及新创公司之间有一些争论,大家在争论 ChatGPT究竟是在帮助新创公司,还是在摧毁新创公司,您认为新创公司该如何更好地运用ChatGPT来增强在这个领域的竞争力呢?

 

皮埃罗:好消息是,有20多个免费开源的大型语言模型,而且我认为这些大公司感受到了压力,因此不得不这样做。而在硅谷,这种事很正常,你发明了某个东西,你开放源代码,因为你想看看大家会如何使用你的发明,超过20个,可能截至目前,每周都会增加新的模型,到现在,已经有30个了。这些都是你可以使用的大型语言模型,我能够使用,如果你继续的话,可以利用这些模型。GitHub,就是开源开发人员的主要聚集地,你会发现有100个项目,大家利用某个语言模式做点事情,换句话说,此前我认为数据库可能,我们也是拥有如此程度的开放源代码,但拥有如此程度的开放源代码的大型的语言模式,我以前从未见过。太多开源代码,太多了。总的说来,GPT 4.0是第一个没有开放源代码的模型,所有其他模型都有开放源代码,这就给予新创公司极大的鼓励。那么现在新创公司可以与Open AI公司一较高下吗?这几乎是不可能的。为什么呢?因为Open AI公司的后台老板是微软,微软投的钱,大笔的钱,机器非常昂贵,那么新创公司能用语言模型做点什么吗?可以的,算法,非常简单,他们可以开发各种非ChatGPT的实际应用,ChatGPT不是他们唯一可用的模型,大型语言模型是大模型,好的,你可以将大模型用于经济、用于汽车驾驶、用于理财,个人理财,当然,也可用于化学、用于生物学、用于医学。我认为这会鼓励新创公司用这些模型进行试验,从而开发出各种实际应用。所以我的回答是,既是又不是。新创公司能够与Open AI一较高下吗,可能不行。没有意义,对吧。但是他们能否开发出Open AI也开发不出来的东西,有可能。

 

高庆一:找到另一条路。最后一个请求,您可以为我签名吗?

 

皮埃罗:当然可以。

 

版权声明: 本网站部分文章和信息来源互联网,并不意味着赞同其观点或证实其内容的真实性,不构成投资建议。如转载稿涉及版权等问题,请立即联系管理员,我们会予以改正或删除相关文章,保证您的权利!
版权所有: 中国财经观察网 (2012- )  备案号:沪ICP备2022019539号-11