新智者首席Time对谈皮埃罗·斯加鲁菲：无惧失控 拥抱AI的不确定性

日前，由微博、新浪新闻共同打造的AI跨界对话栏目《新智者首席Time》完成第二期节目上线，人工智能学者高庆一作为嘉宾主持人，与《人类2.0》作者、“硅谷精神布道师”皮埃罗·斯加鲁菲通过对话形式探讨了新AI浪潮下，人与机器之间的关系、人工智能的失控与不确定性，并探索了人类未来科技新趋势等话题。

以下是“新智者首席Time”对话实录，内容经过编辑略有删减：

高庆一：今天特别高兴在新智者首席time我们有机会采访皮埃罗·斯加鲁菲。很有意思的是，在2018年，我记得，我随便在我的书店里面看了一本书，叫做人类二点零（Humankind 2.0），皮埃罗不仅仅是一个人工智能学者，他同时还是一个硅谷的创业者，也是一个硅谷的投资人。他非常了解欧洲，也非常了解硅谷，甚至他来中国的次数也非常多。所以一个人又了解亚洲、又了解欧洲、又了解美国，对于科技创新的现状、历史和明天，我相信今天的对话，能够给我们大家以一个启发。

皮埃罗先生，我非常荣幸有这个机会和您交谈，你知道自2022年10月以来的100天内，我们都见证了诸多神奇的科技发明，也就是ChatGPT、可控核聚变以及室温超导。我还注意到您在2017年提到一本新书，这是怎么回事？您预测到了未来科技？

皮埃罗：这不是预测。我只是听到了大家正在讨论的东西，有些预测成为了现实，有些预测没有实现，我的意思是说，如果你的朋友圈里有来自各个领域的业内人士，这就容易多了，你只要倾听，然后再想想哪些科技能够让我们改变世界，这才是最重要的。我想这就是欧洲与美国之间的一个巨大差异。我在欧洲出生，在欧洲，人们更多关心哪个是真实的，对吧。而在美国的东海岸，哪一个是真实的，哪一个是我能够很快应用的，而我想在旧金山湾区，人们更多关心的是哪一个将会产生更大的影响，然后你会相信人们会竭尽全力去开发那个能够产生真正影响的科技，所以我认为我受到了这种精神的影响。

高庆一：如果让您从未来科技中删除一项或者新增一项新技术，那么您的选择是什么呢？

皮埃罗：这个问题非常好。有一件事，关于新材料，因为我想我们正逐渐接近能够创造新材料的革命阶段，而不是寻找诸如超导体这样的材料，我们正在寻找具有超导性能的材料，我想下一代将能够创造这种材料，而不是寻找这种材料，我们正逐渐接近于这种材料。我得说我知道这是一项绝密的技术。

高庆一：好吧，我们来聊聊这次访谈的主题吧。第一个问题是关于人类社会的，我相信这个问题您已经回答了好多次，我想每个访谈都是从这个问题开始的，那就是，您认为在未来人工智能是否会赶超人类。但是，我想从另一个角度提出这个问题，您认为人类与机器的关系，人机之间是互为替代的关系、是敌人或者是朋友关系？双方会携手创造未来，还是构成竞争关系？我们需要竞争，机器会赢，还是人类会赢，您怎么认为？

皮埃罗：我们能与并非人类创造的动物一起共存，我们为什么不能与我们制造的机器共存呢，是机器具有更高智能吗？当我还是个孩子的时候，每个人都认为智能就是指数学能力，世界上第一台电脑，哪一年制造的，1940年，1951年？

高庆一：1956年，冯·诺依曼。

皮埃罗：他已经制造出来了，那台电脑当时比任何一个人都更加智能，所以说那不是个问题，问题是我们人类能够与周围的智能的东西共存，并利用这种智能，这就是我的观点。

高庆一：这是一个关于失控或者受控的问题吗？因为有人说你提到了动物，而人类可以杀死动物，所以说人类比起动物而言具有更高智能这一优势，但机器有时候会失控，甚至埃隆马斯克说过，如果我们任由人工智能自由发展，有时会威胁到人类的安全，因此您是否认为人工智能处于受控状态？

皮埃罗：我们人类创造了一个非常复杂的社会，有时候这个社会是会失控的，有两种非常明显的很可怕的情况，第一种就是经济，时不时地经济会崩溃，为什么呢？是经济学家很愚蠢吗？不，他们都是非常有智慧的人，但世界经济非常复杂，如果泰国或者阿根廷出了问题，爆了，你猜怎么着？

高庆一：整个经济崩了。

皮埃罗：我们的经济崩盘了，简直难以置信。2007年的经济大衰退他们还在讨论这个经济崩溃的原因，20年过去了，大家还是不清楚经济危机的产生原因，所以说经济是个问题。另一种情况，当然就是国际政治，你知道的，不知怎么的这个地方发生了战争，一会儿另一地方也发生战争，谁能预料到呢？没有人。战争爆发的原因是什么？于是历史学家写出了许多大部头的书来阐述。所以说我们人类创造了许多失控的复杂系统，这就是现实。现在，就人工智能而言，埃隆·马斯克这样的人这样告诉我，但是人工智能发展非常快，项目推进也很快，对吧，这没错。但是有些人希望人工智能的发展速度降下来，对此我没有特别的想法。我们该如何做呢？我们该如何处理这类复杂系统呢？比如说，出现了某种气候变化，这种气候变化很大，我们该怎么应对气候变化呢？我认为这些问题比人工智能要严重得多。因为在这类情况下，人类会陷入非常大的困境，可能导致数百万人的死亡，那么我们该如何应对这类事情呢？是有一门领域，准确说，叫混沌理论，社会学家会研究这个理论，我们该如何应对这类事情呢？对于这类复杂问题，我们应该如何表明自己的立场呢？这对于人工智能来说不是个新问题，唯一的区别是人工智能发展非常快，对吧，因此我们或许应该把速度降一降，也许各国应该达成共识，机器不得快速作出决策。

高庆一：是的，我们需要应对不确定性，不仅仅是人工智能。但是我常常在想为什么人工智能，你觉得人工智能真的会伤害人类吗？有没有这种可能性？

皮埃罗：任何软件都可能以各种不同的方式伤害到你，但是如今的人工智能技术的一个问题是，不确定性。如果你回到人工智能的初始阶段，其基础是数学逻辑，那么，优势是什么呢？优势就是它很精确，就是逻辑。A至B至C至D至E然后是结论。第二点，你可以一直问为什么，它会回过头来告诉你，因此这个、因此这个、因此这个、因此这个。对的，符号系统，就是数学，全部是数学逻辑。对于如今非常流行的人工智能而言，这有点令人担忧，因为人工智能并非基于逻辑，而其本质是不确定性。你知道的，人工智能很厉害，能够做很多事情，比如说人脸识别。人脸识别就是不确定性推理的一个范例，有时候你在大街上看到某个人，你会说哦那是我朋友，哦搞错了，不是我朋友。甚至包括我老婆，我要去接我老婆，这时候有个人出现了，说嗨，然后说对不起对不起。好了，这就是不确定性推理。这就是不确定性。因此当我获得这个结果，如果我问为什么，机器不能回复，因为机器不能够从数据中得出结论，正如你不能从很多事件中得出结论，这就是我所想说的，这样就会导致更多的危险。不是因为机器不精确，或者说不确定，而是因为我们应该在使用信息时更加谨慎小心。你提到了ChatGPT，这是个很好的例子。ChatGPT是个很棒的生产力工具，但你必须记住这个工具并不精确，ChatGPT是非常非常容易出错的，现在呢有些人仅把它用作生产力工具，可以帮我写出完美的代码，但是你不能让ChatGPT为核武器写代码。

高庆一：确实不能

皮埃罗：显而易见是不能的，所以说你必须小心谨慎。你该如何使用一个不太精确的工具，比如说你在建一座桥，建造桥梁的人可以使用物理知识，但是他们知道要想把桥建造得更加坚固，仅靠物理知识是不够的。所以，当你使用ChatGPT的时候，确保你还有别的信息来源，或者你就是专家，能够控制ChatGPT的运行，这对于新的人工智能，另一问题就是这是人工智能，它并不精确，你不能问为什么，你甚至不能询问信息来源。我还在使用谷歌，为什么呢，谷歌或者其他搜索引擎，因为我能够看到信息来源，谷歌告诉我是这个页面，但是ChatGPT，如果我问尼日利亚的首都在哪里，阿布贾。好的，信息来源是哪里？ChatGPT不知道。区别很大。

高庆一：因此权威性非常重要，权威性就意味着你的信息来源，但是你知道，在机器学习中

这是种监督式学习，或者说强化学习，在当时，没有人对此表示担忧，但对于深度学习，我们失控了。我们认为这是个黑箱，我们不知道这个机器究竟在想什么，甚至于我们能够控制机器的简单逻辑，但我们不能控制其结果。所以问题是，我们怎样才能让人工智能系统与人类价值观保持统一？

皮埃罗：首先，这不是一个新问题。因为自1983年以来我一直从事人工智能的工作，至今40年了，新技术层出不穷。一直觉得我们在做某种可怕的事情那种恐惧，我们为什么会这样？我们人类总是善于担忧，这很好，我希望人类保持担忧，只有这样，我们才能防止出现问题。

高庆一：下一个问题，我想您已经回答过好多次了，未来人工智能会大规模取代人类的工作吗？

皮埃罗：最简单的回答是会取代的，但这不是真正的回答，每一台机器都取代了人类的工作。一个世纪前，大多数人都是骑马，120年前，人们大多数骑马旅行而不是开车，这些马哪里去了，以及你知道的那些喂马的人呢？换工作了。我还是孩子的时候，有许多人都是用打字机打字的，这些工作呢？消失了。我小时候在意大利生活，那里每个十字路口都有交通警卫，有交警在指挥交通，现在路口都是交通灯，我们有多少个交通灯？准确说，有数十亿个交通灯，这类工作呢？全部没有了。因此每一项技术都会导致工作的变化，所以当你说失去工作，我更愿意说工作变换了。你这么说暗含的意思是没有创造就业机会，这不准确。国家变富了，中国更富了，美国更富了，欧洲更富了，你知道的，技术让人们更加富裕了，而不是让人们更穷了。而我也是二十世纪八十年代新创造的工作机会的受益人之一，我学的是数学，但幸运的是，我成为一名软件工程师，否则，我今天不会在这里接受采访。我的父亲是食品销售人员，他生活得很好，这没问题，所以说，你应该问我的问题是，新技术将创造出哪些就业机会，因为人们无论年龄大小，必须开始考虑那就是未来的社会，这个才是真正的问题。对于ChatGPT来说，知道谁会丢工作，这个是重要的。在有些情况下，答案很显然，在某些情况下，答案并不那么明确，会创造出哪些工作，这个问题问得好。最近 Anthropic在旧金山市成立了一家新公司，这个新创公司公开招聘提示工程师，提示工程师是什么工作？我不清楚，但是薪水很丰厚。对吧，这可能是个新的职业，所以你不妨去试一试。总而言之吧，就我看来，显而易见，新的就业机会创造出来了，有的工作消失了，但这只是一个方面，你得告诉我还有哪些工作被创造出来了，然后我们可以对比分析，创造了多少，以及薪水怎么样等等。至于我的薪水，我的第一笔薪水比我父亲一辈子挣的全部薪水还要高，他从未挣过这么多的钱，我的第一笔薪水，这对他而言是足够羞辱的，所以说，你得考虑过去的情况，而不仅仅是问哪些工作因此消失了。当然，任何技术，按照定义，任何技术都意味着有些工作会被淘汰，我们进入了一个新世界，但你得问一问哪些新的工作确实被创造出来了。

高庆一：确实是这样，你认为ChatGPT是个中间界吗？因为在学术界，对于写论文、写文献综述的博士生，所有这些章节，均可由ChatGPT代劳吗？他们可以得到非常不错的文献综述，阅读该领域的每一份论文，并写出非常好的概要，你认为ChatGPT或类似的东西，如AI成为一种中间界，因为我们可以将其用作工具，协助我们做好本职工作。

皮埃罗：这些工具可以帮助人们完成工作，正如我之前所说的，这些工具已经帮助人们编写软件程序，现在，如果你是个软件工程师，你肯定会担忧不已，但是如果ChatGPT使得数百万人能够编写软件程序，那很好，软件工程师已经赚了不少的薪水。

高庆一：我对这个问题很有兴趣，那就是，将来人工智能机器人会有与人类一样的情感和情绪吗？他们在未来会拥有像人类一样的各种情绪吗？我们会生气，我们会开心，我们会笑，我们还会哭，你认为未来社会机器会有与我们人类一样的情感和情绪吗？

皮埃罗：这实际上是两个问题，一个问题是，机器人会像有情绪的人那样说话做事吗，我认为最好不要这样，因为我们人类很容易就生气，所以说，这是一个问题，实际上取决于我们如何给机器设定程序，这个我们可以避免这种情况，尽量保证回答中不含这些内容，因此我希望我们的聊天机器人能学习我们人类的良好行为，而不是学习我们人类的恶劣行为。这确实是个很大的风险，因为ChatGPT会阅读Facebook（脸书）、Twitter（推特）上的东西，它会看到大量的表达愤怒的内容，许多人相互叫骂。对吧，因此这是个问题，如果你问的是关于情绪感受方面的神经科学，我不知道答案，我不认为是这样，我认为人天生如此，天生具有感知情绪的能力。个人观点，如果你天性不是如此，你可能无法感知情绪，这还是我的个人看法。对于机器而言，我更感兴趣的是言行，机器是否会表现得，比如说，不理性，当我们经常生气的时候这叫不理性，因为如果我生你的气，你也会生我的气，有时候我们制造更大的麻烦。

高庆一：好了，让我们谈一谈中国市场吧，ChatGPT现在风靡全球，中国互联网行业也为之振奋，越来越多的公司和投资人选择加入大模型这片蓝海，这也包括阿里巴巴、百度等知名企业。据您了解，国外的企业也有这么疯狂吗？我觉得呢，肯定也是这样吧。

皮埃罗：实际上，在欧洲，我刚刚从欧洲过来，而且我对欧洲非常熟悉。在欧洲，大家的兴趣很低，所以我认为他们不是那么的疯狂，我认为最疯狂的一类人是艺术家，艺术家对这类事物非常疯狂。但是在科技界，我没有看到大家都是一片欢腾，我认为他们都是非常讲究实际的，他们知道这个技术的局限性，他们也知道这个技术的成本。我的意思是说，只有非常有钱的大企业才能承担起这些训练机器的运行成本，所以我认为欧洲人对这项技术的兴趣并不大。而在美国，也主要局限于旧金山湾区，我认为对大多数人来说，这个局限指的就是那些机器，因此需要这类大型机器，所以呢，这个技术的吸引力是有限的。你知道为什么通用电气或者福特公司会在这项技术上投入巨资吗？一旦技术成熟，他们可以从Open AI公司获得这项技术，所以我认为最兴奋的人主要是加州人和中国人。

高庆一：艺术家对NFT（非同质化代币）非常追捧，艺术家对ChatGPT也非常追捧。

皮埃罗：我们西方人有一个很大的优势，我们鼓励艺术家，我们资助艺术家，而艺术家会产生大量的奇思妙想，你知道吗。是谁创造了网络空间这个概念？是一位作家。是谁创造了元宇宙这个概念？也是一位作家。你知道的，艺术家都有很好的灵感，有这么一家新创公司，他们是做某种东西的，具体产品我忘了，我读了那个访谈文章，当访问者问公司的创始人，对于这个疯狂的创意，您是如何获得灵感的，他们开始提到科幻小说、电子游戏、甚至是音乐，他们并没有提到史蒂夫·乔布斯或爱因斯坦等等，所以我认为中国人低估了艺术家对我们社会的巨大贡献，甚至对于元宇宙来说，谁是虚拟现实元宇宙的首批用户呢？

高庆一：是艺术家。

皮埃罗：游戏，顺便说一下，游戏公司会聘用艺术家，而艺术家会产生许多奇怪的创意，在元宇宙里做哪些事情，甚至是智能手机，iPhone手机之前的老的智能手机。当我还没有这么一部手机的时候，许多艺术家就拥有一部这样的手机，想象力和绘画，确实如此，想象力，创造力，而且他们不一定要赚钱，这是个很大的区别。新创公司必须要赚钱，可能不一定是在六个月内，但你必须有个商业计划书。艺术家可以产生一些疯狂的想法，然后你仔细思考，你知道，比如说，哇哦这个想法很意思。

高庆一：非常棒

皮埃罗：你知道的，iPod，就是那个让苹果公司起死回生的产品，当时我在新加坡开会，那个老板走进会议室，非常生气，把各种亚洲生产的产品放在那里，MP3播放器这是在亚洲生产的产品，日本吧，也可能是中国，中国香港等等吧。他把这些东西一股脑放在那里，然后说，你们谁能给我解释一下，为什么iPod会大火，为什么我们的小孩子都在买iPod呀，而不买这些产品呢？这些产品兼容MP3，内存更大，质量更好，老板非常生气，关键是什么，是设计，这看上去很酷，没错，这个看上去很酷。就这样，这就是艺术家的功劳，我不可能设计出很酷的产品。史蒂夫·乔布斯聘用了设计师来设计iPod，这产品甚至和MP3不兼容，也不是最便宜的，甚至不是，但是它很酷，这是一个很典型的例子，所以我认为中国人低估了艺术家对于技术进步的贡献。

高庆一：您说得对。您认为什么样的企业在这条赛道更具有竞争力？

皮埃罗：哪个赛道？

高庆一：ChatGPT大模型。

皮埃罗：嗯，现在这样的公司很少，只有Open AI、谷歌等，我认为Meta公司拥有非常好的技术，这类公司很少，更好的问题是哪些新创公司有能力发起挑战，挑战现有格局。我不希望整个市场仅由3-6家公司，包括中国公司所主导，所以说，哪家新创公司能够对这些大公司发起挑战呢？我们有几个仿人聊天机器人，现在有几家不错的新创公司，确实兴起的比较少，很多这类公司的投资人以前曾在谷歌、Meta、Open AI公司工作过，这是更有意思的问题，我不希望整个市场仅由大公司所主导。

高庆一：在中国，投资人以及新创公司之间有一些争论，大家在争论 ChatGPT究竟是在帮助新创公司，还是在摧毁新创公司，您认为新创公司该如何更好地运用ChatGPT来增强在这个领域的竞争力呢？

皮埃罗：好消息是，有20多个免费开源的大型语言模型，而且我认为这些大公司感受到了压力，因此不得不这样做。而在硅谷，这种事很正常，你发明了某个东西，你开放源代码，因为你想看看大家会如何使用你的发明，超过20个，可能截至目前，每周都会增加新的模型，到现在，已经有30个了。这些都是你可以使用的大型语言模型，我能够使用，如果你继续的话，可以利用这些模型。GitHub，就是开源开发人员的主要聚集地，你会发现有100个项目，大家利用某个语言模式做点事情，换句话说，此前我认为数据库可能，我们也是拥有如此程度的开放源代码，但拥有如此程度的开放源代码的大型的语言模式，我以前从未见过。太多开源代码，太多了。总的说来，GPT 4.0是第一个没有开放源代码的模型，所有其他模型都有开放源代码，这就给予新创公司极大的鼓励。那么现在新创公司可以与Open AI公司一较高下吗？这几乎是不可能的。为什么呢？因为Open AI公司的后台老板是微软，微软投的钱，大笔的钱，机器非常昂贵，那么新创公司能用语言模型做点什么吗？可以的，算法，非常简单，他们可以开发各种非ChatGPT的实际应用，ChatGPT不是他们唯一可用的模型，大型语言模型是大模型，好的，你可以将大模型用于经济、用于汽车驾驶、用于理财，个人理财，当然，也可用于化学、用于生物学、用于医学。我认为这会鼓励新创公司用这些模型进行试验，从而开发出各种实际应用。所以我的回答是，既是又不是。新创公司能够与Open AI一较高下吗，可能不行。没有意义，对吧。但是他们能否开发出Open AI也开发不出来的东西，有可能。

高庆一：找到另一条路。最后一个请求，您可以为我签名吗？

皮埃罗：当然可以。