OpenAI、谷歌DeepMind、Anthropic和其他人工智能实验室的负责人警告称，未来的系统可能像流行病和核武器一样致命。
一群行业领袖本周警告称，他们正在研发的人工智能技术有朝一日可能会对人类的生存构成威胁，应该被视为一种与流行病和核战争相当的社会风险。
非营利组织人工智能安全中心(Center for AI Safety)发布的一份只有一句话的声明写道:“减轻人工智能带来的灭绝风险，应该与流行病和核战争等其他社会规模的风险一起，成为全球的优先事项。”这封公开信由350多名从事人工智能工作的高管、研究人员和工程师签署。
签署者包括三家领先人工智能公司的高管:OpenAI首席执行官萨姆·奥特曼(Sam Altman);谷歌DeepMind首席执行官戴米斯•哈萨比斯;以及Anthropic的首席执行官达里奥·阿莫代伊。
杰弗里·辛顿(Geoffrey Hinton)和约书亚·本吉奥(Yoshua Bengio)是因在神经网络方面的开创性工作而获得图灵奖的三位研究人员中的两位，他们通常被认为是现代人工智能运动的“教父”。该领域的其他杰出研究人员也签署了声明。(第三位图灵奖得主、负责meta人工智能研究工作的扬·勒昆(Yann LeCun)截至周二尚未签约。)
该声明发表之际，人们越来越担心人工智能的潜在危害。最近在所谓的大型语言模型(ChatGPT和其他聊天机器人使用的人工智能系统类型)方面取得的进展，引发了人们的担忧，即人工智能可能很快被大规模用于传播错误信息和宣传，或者它可能会消除数百万白领工作岗位。
最终，一些人认为，人工智能可能变得足够强大，如果不采取任何措施来减缓它的发展，它可能会在几年内造成社会规模的破坏，尽管研究人员有时没有解释这是如何发生的。
许多行业领导者都有这些担忧，这使他们处于一个不同寻常的境地，他们辩称，他们正在开发的一项技术——在许多情况下，他们正在疯狂地比竞争对手开发得更快——构成了严重的风险，应该受到更严格的监管。
本月，奥特曼、哈萨比斯和阿莫代伊会见了美国总统乔·拜登和副总统卡玛拉·哈里斯，讨论了人工智能监管问题。在会后的参议院证词中，奥特曼警告说，先进人工智能系统的风险已经严重到足以让政府进行干预，并呼吁对人工智能的潜在危害进行监管。
人工智能安全中心(Center for AI Safety)执行主任丹·亨德里克斯(Dan Hendrycks)在接受采访时表示，这封公开信代表着一些行业领袖的“出柜”，他们曾对自己正在开发的技术的风险表示担忧——但只是在私下里。
亨德里克斯说:“即使在人工智能社区，也存在一种非常普遍的误解，认为只有少数人是末日论者。”“但事实上，很多人私下里都会对这些事情表示担忧。”
一些怀疑论者认为，人工智能技术还太不成熟，不足以构成生存威胁。对于今天的人工智能系统，他们更担心的是短期问题，比如有偏见和不正确的反应，而不是长期的危险。
但也有人认为，人工智能的进步如此之快，以至于在某些领域已经超过了人类的水平，而且很快就会在其他领域超越人类。他们表示，这项技术已经显示出先进能力和理解能力的迹象，这引发了人们对“通用人工智能”(AGI)的担忧，AGI是一种可以在各种任务中达到或超过人类水平的人工智能，可能不会太遥远。
在上周的一篇博客文章中，奥特曼和OpenAI的另外两名高管提出了几种负责任管理强大人工智能系统的方法。他们呼吁领先的人工智能制造商之间进行合作，对大型语言模型进行更多的技术研究，并成立一个类似于国际原子能机构的国际人工智能安全组织，该组织旨在控制核武器的使用。
奥特曼还表示支持要求大型尖端人工智能模型制造商注册政府颁发的许可证的规定。
今年3月，1000多名技术人员和研究人员签署了另一封公开信，呼吁暂停开发最大的人工智能模型六个月，理由是担心“开发和部署更强大的数字思维的竞赛失控”。
这封信是由另一家专注于人工智能的非营利组织生命未来研究所(Future of Life Institute)组织的，由埃隆·马斯克(Elon Musk)和其他知名科技领袖签署，但没有很多领先的人工智能实验室签名。
亨德里克斯说，人工智能安全中心的这份简短的新声明——只有22个字——旨在团结人工智能专家，他们可能对特定风险的性质或防止这些风险发生的步骤存在分歧，但他们对强大的人工智能系统有共同的担忧。
他说:“我们不想推行一个包含30种潜在干预措施的大菜单。”“当这种情况发生时，它会稀释信息。”
这份声明最初是与一些知名的人工智能专家分享的，其中包括辛顿。辛顿本月辞去了在谷歌的工作，他说，这样他就可以更自由地谈论人工智能的潜在危害。从那里，它进入了几个主要的人工智能实验室，然后一些员工签约。
随着数百万人转向人工智能聊天机器人寻求娱乐、陪伴和提高工作效率，以及底层技术的快速进步，人工智能领导者的警告变得更加紧迫。
“我认为，如果这项技术出了问题，它可能会出很大的问题，”奥特曼对参议院小组委员会说。“我们希望与政府合作，防止这种情况发生。”
本文最初发表于《纽约时报》。
Written by:凯文·卢斯
摄影:蒋海云
©2023纽约时报
