OpenAI CEO：看待AI应该参审核武器的羁系方式-外盘

“AI会失足。”

在当地时间5月16日上午，OpenAI首席执行官Sam Altman在美国国会举行的关于人工智能羁系的听证会上说。

已往几个月，OpenAI的产物ChatGPT在全球掀起了新一轮人工智能浪潮，犹如一只横冲直撞的“燃烧弹”，打击了各个领域，点燃一把火，与之相关的天生式AI的羁系也在全球局限睁开。

美国政府虽然打起了十二分的精神，并从多个层面提出了高度重视。但Sam Altman却并没有如周受资抑或是扎克伯格一样被美国政客“围攻”，这场听证会甚至比多数硅谷科技公司加入过的国会听证会都短，只有2小时40多分钟。

在这个历程中，并没有出现出剑拔弩张，聚会竣事后也是一片镇静祥和。

会后，Sam Altman甚至像个大学生一样，跑到IBM的首席隐私和信托官Christina Montgomery眼前自动握手，然后又跑到主席台前，跟听证会小组主席“虚心讨教”了一番。

有趣的是，许多参议员似乎对Sam Altman十分重视，参议员John Neely Kennedy甚至询问Sam Altman他本人是否有资格介入组建羁系AI的联邦机构。不外Sam Altman似乎对这份事情并没什么兴趣，他说，“我喜欢我现在的事情。”同时，他也示意OpenAI将会尽快向国会提交一份他们以为适合这份事情的职员名单。

而Sam Altman在这场听证会中的姿态也异常低，对于天生式AI，他似乎也有渺茫和困扰。“面临日益壮大的AI模子，政府羁系机构的干预对于控制相关风险来说至关主要。”他示意。

与Sam Altman一同介入这场听证会的尚有一直在社交媒体上对AI研究提出质疑的AI学者，纽约大学心理学和神经科学信用教授Gary Marcus，以及刚刚宣布用天生式AI替换7000余名人类员工的IBM的首席隐私和信托官Christina Montgomery。

Christina Montgomery，Gary Marcus，Sam Altman（左到右）

本场听证会聚焦的问题也正是美国政府和全社会普遍关注的问题，其中包罗：

1.     AI是否会天生危险内容

2.     AI是否会威胁到美国的国家平安

3.     AI是否会损害公民的隐私，以及数据权力

4.     AI是否会影响就业

5.     对AI的羁系，是否会影响美国在国际竞争中的职位

对此，Sam Altman及其它两位证人逐一做出了回覆。

01、美国应带头羁系人工智能

在听证会上，美国议员提出应该组建一个专门羁系AI的新机构。Sam Altman异常认可这一做法。

Sam Altman在听证会上提出OpenAI在这方面的3个设计：

确立一个新的政府机构，卖力审批大型AI模子。并对不相符政府尺度的公司举行处置，包罗吊销他们的AI“执照”。

为AI模子确立一套平安尺度，用以评估其风险。AI大模子必须通过某些平安测试，例如它们是否能够“自我复制”或是“出逃（脱节人类控制）”。

要求自力专家对模子在各个指标上的显示举行自力审核。

有国聚会员提出关于AI研究的国际羁系问题时，提到了天下各国政府在羁系核武器方面都有先例。Sam Altman示意了赞许，而且他以为美国应该带头羁系人工智能， “若是每个国家对每个司法统领区都有自己的政策和律例，那么AI公司就需要针对差异区域重新训练模子，若是没有全球协同，这些公司将很难运作。”

在这方面，Gary Marcus也示意支持，并提出应该像看待原子弹一样，确立一个类似国际原子能机构的国际组织，以应对人工智能的风险。

阿里该戒掉「抖音PTSD」了

在立法方面，美国政府为羁系社交媒体平台专门制订了230法案，该法案免去了在线服务对用户公布内容的责任，由此大幅促进了社交媒体的兴起。新兴的天生式人工智能，在内容生产上与社交媒体不无相似之处。这也使得美国政府在立法方面，直接将AI与社交媒体相对比。探讨AI手艺是否适用230法案，AI公司是否应该对AI天生的内容卖力。

对此，Sam Altman以为AI并不适用230法案，他示意天生式人工智能工具需要一套新的责任框架。例如AI研发机构对AI天生的内容需要负有一定的责任。

02、没有训练更高版本的GPT，未来半年内也没设计

在听证会上，有议员提到了此前热议的“暂停大规模人工智能模子研发”联名信。

作为联名信签署人之一，Gary Marcus注释说，联名信的目的并不是要求暂停研发AI，而是希望在具备规范、平安的AI治理措施之前，暂停部署比GPT-4更大的AI模子。他以为现阶段，要将这些“超级AI”交给1亿通俗人使用，照样太快、太冒险了。

Sam Altman则示意，在完成GPT-4的训练后，OpenAI等了6个月才上线。他示意，“我们现在没有在训练更高版本，例如GPT-5。我们在未来6个月内也没有这样的设计。”

但他以为联名信的框架是错误的，他说，“对于AI来说，最主要的是平安审核，红蓝队模拟（AI的平安匹敌模拟）等平安措施。通过这些在部署前到达平安尺度。“Sam Altman以为，暂停6个月并不是一个有用的做法，”若是暂停AI研发6个月，AI研发可能就会与时代脱节。6个月之后我们要怎样？再停6个月吗？”

不外，Sam Altman也以为，当发现一些不明晰的器械时,确实需要停下来。他说，“现在我们对下一个模子就抱有忧虑，我们异常郁闷研发历程中可能会发生一些危险的内容，更不用说部署了。”

此外，Sam Altman还示意支持“要求AI公司在推出人工智能产物前评估人工智能产物风险”的新划定。他在提交给委员会的书面证词中示意,政府应“促进平衡的激励措施和平安羁系,同时确保人们能获得手艺带来的益处”。

AI大模子的研发主要集中在少数大公司手中，也引起了美国政府的关注。

参议员Cory Booker示意，他很郁闷AI领域的“大规模企业集中度”问题，“现在，OpenAI与微软相助，类似的大模子公司Anthropic则由谷歌支持。”。他以为，随着这些公司变得越来越大、越来越壮大，它们对人们生涯的控制和影响也将越来越大，并有可能在商业和手艺上实现垄断。

对此Sam Altman以为，AI大模子的研发相对难题，只有少数企业能够研发出AI大模子。这并不会造成垄断，反而会在一定水平上降低羁系难度。

03、天生式AI的羁系尚有很长的路要走

事实上，美国政府对于这波天生式AI热潮的关注与担忧已经有一段时间了，其在羁系上也走得更早。美国商务部在4月11日已就相关措施正式果然征求意见，包罗新AI模子在公布前是否应经由认证程序。征求意见限期为60天。

对于天生式AI的羁系，与上一波人工智能的差异在于，其能够将数据跨境、知识产权、小我私人信息珍爱的问题放大化。由于已往的人工智能更多是针对某种特定场景，而天生式AI涉及到更多数据和通用大模子。涉及到的供应链角色更多，例如大模子提供商、在大模子之上做应用的服务商、还涉及存储数据的云厂商。

“天生式AI对于羁系行业来说，是一个太新的事物，而且新手艺生长很快，但我们现在针对算法、手艺等立法羁系并不能完全笼罩现在泛起问题，对于羁系来说，是很大的磨练。”观韬中茂状师事务所合资人王渝伟曾告诉虎嗅，王渝伟耐久举行网络平安数据合规方面的执法事情。

更早之前，今年1月26日，美国NIST（国家尺度与手艺研究院）公布了《AI风险治理框架1.0》。这份框架，包罗治理、映射、丈量和治理的四个部门，治理指要在组织的制度流程、组织建设、组织文化、手艺能力等方面践行AI风险治理框架；映射主要用于确定特定场景与其对应的AI风险解决方案；丈量主要接纳定量和/或定性的工具、手艺和方式来剖析、评估、测试和监控AI风险及其相关影响；治理主要是将相关资源分配给响应的AI风险，举行风险处置。治理是一个交织模块，融入并影响其他三个模块。

在框架中也提到了AI系统的可说明性、可注释性、可追责、透明性的问题。例如，AI可信度特征之间可能相互影响，周全的AI风险治理需要在AI可信度特征之间举行权衡取舍。

另外，优化可注释性和隐私增强性之间会存在矛盾；或者在数据较希罕的情形下，隐私增强手艺可能导致有用性降低。过分关注某一方面特征，例如：高度平安但不公正的系统、有用但不透明和不能注释的系统以及禁绝确但平安、隐私增强和透明的系统都是不能取的。

从这份框架以及美国4月颁布的《人工智能问责政策征求意见》可以看出美国在制订人工智能羁系方面政策时，重点在于问责明确。

5月5日，美国国家科学基金会（The National Science Foundation）宣布将拨款1.4亿美元（约合人民币9.67亿元），确立7个国家级人工智能研究机构，确保美国在AI领域保持*的同时，停止AI引发的道德、社会问题等。

政府还准许为政府机构公布指导目的草案，以确保对人工智能的使用保障“美国人民的权力和平安”。有新闻称，美国政府已获得Anthropic、Google、Hugging Face、Microsoft、NVIDIA、OpenAI和Stability AI六家公司的准许，将提交他们的人工智能系统供专家社区举行果然评估，这些公司已赞成在8月的一次网络平安聚会上提交其产物以供审查。

美国总统拜登也曾示意，人工智能是否危险“有待考察”。他任命的一些高级官员准许，若是以有害方式使用该手艺，他们将举行干预。白宫在13日公布的文章中提到，美国总统科技照料委员会（PCAST）正在组建一个天生式人工智能事情组。该事情组将辅助评估人工智能要害时机和风险，并就若何*地确保这些手艺的开发和部署尽可能公正、卖力和平安提供意见。现在已宣布的专家名单中，就包罗著名华人数学家陶哲轩，以及AMD的首席执行官苏姿丰。

美国时间5月16日早些时刻，在华盛顿邮报的报道中，一位众议院助手称，国会人工智能焦点小组将于听证会后与奥特曼举行仅限特定职员加入的简报会。这名助手说，该闭门聚会将由众议院议长Kevin McCarthy和众议院少数党*Hakeem Jeffries配合主持。

在本场听证会上，两名参议员则专门针对这一问题微软及OpenAI就版权付费问题向Sam Altman提出质疑。对此，Sam Altman示意，OpenAI将会拿出珍爱地方新闻业的相关行动，但也没有详细回应若何在AI模子训练历程中珍爱内容创作者版权权益的问题。

注：本文头图、文内插图源于直播截图