首页 > 新闻资讯内容详情

Sam Altman最新访谈:AI是让世界变得更好的唯一可持续方式 2023-06-10 16:52:36

是什么让OpenAI成为生成式人工智能的领导者?OpenAI的关键优势是什么?AI的发展将带来哪些机遇和风险?
OpenAI首席执行官山姆·阿尔特曼(Sam Altman)和该公司联合创始人、首席科学家伊尔亚·苏茨克维(Ilya Sutskever)在6月6日参加特拉维夫大学的访谈时,发表了自己的观点。
此外,他们还谈到AI在科学发现中的作用,阿尔特曼认为科学和技术进步是让生活变得更好、让世界变得更好的唯一可持续方式,并且二人对AI解决人类的医疗问题和气候问题等抱有十分积极的态度。
访谈的核心观点如下:

1.AI的发展虽然会创造新的就业机会,但不否认这会导致一个长期的经济不稳定时期。

2.我们需要一个适当的框架来控制AI技术的使用。

3.AI可以帮助我们进行目前无法做到的科学发现,我们可以了解宇宙的奥秘。

4.科学和技术进步是让生活变得更好、让世界变得更好的唯一可持续方式。
以下为对话整理(有删减):
主持人:欢迎来到特拉维夫大学,我是纳达夫·科恩,计算机科学学院的教员。非常高兴邀请到OpenAI的CEO山姆·阿尔特曼和首席科学家伊尔亚·苏茨克维。
阿尔特曼:谢谢你邀请我们。
主持人:好的。你认为是什么让OpenAI成为生成式人工智能的领导者?尤其当竞争对手更强、拥有更多资源时,OpenAI的关键优势是什么?
阿尔特曼:专注和信念。我们相信未来公司会发展得更大,我们更专注于所做的事情。我们的人才密度很大,人才密度非常重要。并且我们有一种严谨和可重复创新的文化,这是很难得和罕见的。
苏茨克维:AI的发展是信仰的游戏。你越有信心,就越能取得进步。如果你有很大的信心,你可以取得最大的进步。你必须相信这个想法并推动它,你相信得越多,你就越努力,这就是进步的原因。

机遇和风险


主持人:我想谈谈风险,这是一个经常被讨论的话题,并且很重要。我们可以想象到的风险至少有三类。一个是经济混乱,人们的工作被替代,诸如此类。另外,如果被不怀好意的人使用,例如黑客,那么它可能会变成一种强大的武器。最令人担忧的是,它最终可能会成为一个失控的系统,即使是触发它做某事的人也无法阻止它。我想知道你对每种情况的看法。
苏茨克维:好的,你提到了三种风险的可能情景,经济混乱、黑客、超级AI(AI失控)。首先,经济混乱确实会发生,我们已经看到了有些工作正在受到影响。部分工作是被正向影响的,如果你是一名程序员,你则不用再亲自编写函数。然而,如果你是一名艺术家,情况就有点不同了,因为艺术家很大一部分的经济活动已经被一些图像生成器占据了。确实,AI的发展虽然会创造新的就业机会,但不否认这会导致一个长期的经济不稳定时期。我们需要想办法减轻打击,能够更平稳、顺利地迎来全新的职业。

关于“黑客”,这是一个棘手的问题。事实上,AI将是强大的,它可能被不良行为者以强大的方式使用。因此我们要效仿在使用其他非常强大和危险的工具时采取的措施,给AI制定一个类似的框架。我们不是在谈论如今的AI,我们谈论的是随着时间的推移,能力不断增加,不断发展到一定程度的AI。到了这一步,它可用于惊人的应用程序,也许可以包治百病。但另一方面,也可以创造一种比以往都更糟糕的疾病,后果不堪设想。因此,我们需要一个适当的框架来控制AI技术的使用。
AI失控将是非常糟糕的,因此,建造一个我们不知道如何控制的超级智能将是一个巨大的错误。
阿尔特曼:我非常同意最后一句,这点没有什么补充。但关于经济方面,其实很难解释将会如何发展。现在世界上有太多过剩的需求,而这些人工智能系统非常善于帮助完成任务。目前从短期内看来,大多数工作结合AI的结果是不错的。这将是一个巨大的生产力增长,如果你能让程序员的生产力提高两倍,那么世界需要的代码量就会增加两倍以上。所以一切都很好。
从长远来看,我认为这些系统将会做越来越复杂的事情和工作类别。一部分工作会消失,但另一部分工作会很需要人类。举个例子,当深蓝击败卡斯帕罗夫时,世界第一次看到了人工智能。每个人都说,象棋彻底完了,没有人会再下棋了,因为它不好玩了。事实上,国际象棋从未像现在这样受欢迎。人类的棋技越来越好了,期望值也提高了。我们可以用这些工具更好地学习,人们也仍然很想玩。所以这种发展是特别的和有价值的。
以国际象棋为例,人们观看人类下棋的次数比以往任何时候都多,因为没有多少人喜欢看两个AI互相比赛。所以我认为这些事情的发展很难预测。人类渴望与众不同,创造新事物,获得某种地位,我认为这不会有任何改变,但AI会以某种方式真的做出改变。我敢打赌,100年后的大多数工作看起来几乎和今天的工作完全不同,也许有些会相似。但无论发生什么,随着自动化达到迄今为止无法想象的高度,我们都需要某种不同的社会经济契约。

有效监管的必要性


主持人:好的,谢谢。山姆,你最近签署了一份请愿书,呼吁严肃对待来自AI的生存威胁。我想知道,你是否认为我们人类以及像OpenAI这样的公司应该采取某些措施来解决这个问题。
阿尔特曼:我认为现在对该领域进行严格监管或者试图减缓创新是错误的,我们也许可以谈谈正在发生的好处。当然,我们不想制造超级AI,这无可争辩。但是世界不应该将其视为永远不会出现的科幻风险,这可能是我们在未来十年不得不面对的事情,对于世界机构来说,适应某些事物的时间并不长。
所以我们贡献了一个想法,如果我们能有一个全球性的组织,在最高端,在计算能力和技术的前沿,可以有一个框架来许可模型,审计它们的安全性,提出需要通过的测试,这会有帮助。这是将其视为非常严重风险的一种方式,就像我们对在核能方面做的措施一样。


AI与科学发现


主持人:让我们谈谈好处吧。关于AI在科学发现中的作用,你有没有一些预测或想法?
阿尔特曼:这是我个人关于AI最兴奋的事情。我认为到处都会发生震撼的、美妙的事情,巨大的经济效益、巨大的医疗保健效益。事实上,AI可以帮助我们进行目前无法做到的科学发现,我们可以了解宇宙的奥秘。除此之外,我真的相信科学和技术进步是让生活变得更好、让世界变得更好的唯一可持续方式。人们已经开始使用这些工具来提高效率。但是如果你想象一个世界,你可以说,“嘿,AI,帮助我治愈所有的疾病。”然后它帮助我治愈了所有的疾病,这将是一个更加美好的世界。我认为我们离那不远了。

主持人:好吧,除了疾病之外的另一个主要问题是气候变化。我想知道你的想法是什么,以及AI在这方面的潜在作用,因为你确实提到这是一个潜在的贡献领域。
阿尔特曼:我不想这么说,因为气候变化是一个非常严重、非常棘手的问题。但是我认为对这样的系统来说,拥有一个真正强大的AI来应对气候变化并不会特别困难。
苏茨克维:我们甚至可以解释一下解决气候变化的方法。你需要进行高效的碳捕获来解决大量的二氧化碳。你需要能量来捕获碳,需要技术来构建设备,并且需要构建很多。如果你能加速科学进步,这是一个强大的AI可以做到的,我们可以更快地实现非常先进的碳捕获。它可以更快地获得非常便宜的电力,它可以更快地获得更便宜的制造。
结合这三点,廉价的电力、廉价的制造、先进的碳捕获。我们可以建造很多,然后从大气中吸收所有多余的二氧化碳。这个计划现在想实现有点困难,但如果你有一个极大地加速科学进步和工程发展的AI,它就变得非常简单。

相关标签:

发布评论