信息量很大！“ChatGPT 之父”国会首秀：可让开发 AI 模型公司持牌、可建国际监管机构

luyuanhong

信息量很大！“ChatGPT 之父”国会首秀：可让开发 AI 模型公司持牌、可建国际监管机构

2023-05-17 06:31:26　来源: 每日经济新闻 四川

当地时间周二（5 月 16 日），“ChatGPT 之父”山姆·阿尔特曼（Sam Altman）首次在美国国会作证，他呼吁美政府对人工智能（AI）技术进行更严厉的监管，并表示他掌管的 OpenAI 以及谷歌等同行都应当承受压力。Altman  呼吁国会对 AI 系统采取安全标准。

据澎湃新闻5月15日报道，阿尔特曼在最新的访谈中表示，可以建立一个类似于国际原子能机构的 AI 机构，让每个人都参与到对极其强大的 AI 训练系统的全球监管机构中来。在访谈中，奥特曼还谈到了自己如何使用 ChatGPT ，开源 AI 与闭源 AI 各自的特点与发展路径。他认为，带有人类反馈的强化学习（RLHF）不是正确的长期解决方案。

提议颁发 AI 开发许可

在这场美国参议院司法委员会举行的听证会上，Altman 做开场白时就指出：“我们认为，对于减少日益强大的模型的风险而言，政府的监管干预至关重要。”


山姆·阿尔特曼（图片来源：视觉中国）

他认为，美国政府可以监管 AI 行业的一种方式是，为开发功能最强大的 AI 系统的公司，实行持牌制度。如果有公司要开发和发布超出能力阀值的 AI 模型，政府可以将发放牌照和测试的要求结合起来，对他们予以监管。

他还提到一种可能采取的解决方案，建立一个国际性的监管方委员会，由美国领导。

Altman 称：“我最担心的是（AI 行业）会对世界造成重大伤害”。他说，AI 可能被用于操纵选民以及有针对性的假消息是他“最关心的一些领域”，尤其是因为美国“明年将面临选举，而这些（AI）模型正在变得更好。”

同时，阿尔特曼还说道，ChatGPT-4 将使一些工作实现自动化，同时将带来新的工作机会。他还透露，目前公司并没有训练 GPT-5 ，未来六个月也没有这方面的计划。

据财联社 5 月 17 日报道，与之前准备好的证词一致，阿尔特曼对监管政策的初步建议主要集中在“AI 开发许可”上。如此一来，只有获得过许可的企业，才能发布新的人工智能模型并进行一系列测试。

一同出席听证会的 IBM 首席隐私和信任官克里斯蒂娜.蒙哥马利认为，应该要求人工智能产品在与用户互动时保持透明可信。

她还告诉议员，虽然国会尚未设定相关要求，但 IBM 内部已经组建了 AI 道德委员会。

欧盟欲出台全球首个 AI 法案

据第一财经 5 月 13 日消息，欧洲议会正就全球首部人工智能（AI）法案展开大规模协商，光修正案就有一千多项，创下了欧洲议会史上之最。当地时间 11 日，欧洲议会内部市场委员会和公民自由委员会以 84 票赞成、7 票反对和 12 票弃权通过关于《AI 法案》的谈判授权草案，其中包含了有关面部识别、生物识别监控和其他 AI 应用使用的新规则，并提出了严格监管 ChatGPT 等 AI 工具的新思路。


图片来源：视觉中国

领导上述法案制定的欧洲议会议员土多拉舍（DragoşTudorache）表示，欧盟的《AI 法案》是全球首个此类立法，“欧盟可以在全球范围内带头使 AI 以人为本，（变得）值得信赖和安全”。

目前的提案采取了分级管理的思路，即基于 AI 的四个等级（从风险最小到不可接受），进行区别管理，风险较高的应用程序将面临更严格的规则，需要更高的透明度和准确性。

欧洲议会认为，对人类安全造成不可接受风险的 AI 系统将被严格禁止，包括部署潜意识或有目的操纵技术、利用人们弱点或用于社会评分的系统。

根据目前的时间表，该法案将于 6 月提交欧洲议会全体表决，之后欧洲议会、欧盟理事会和欧盟委员会的代表将在“三方”会谈中商定最终条款。在条款最终确定且该法案成为法律后，将有大约两年的宽限期。

除了欧洲，全球各地越来越担心快速发展的 AI 技术可能被滥用。美国联邦贸易委员会此前发出警告，称“正在密切关注公司如何选择使用 AI 技术，包括新的生成人工智能工具，以及对消费者产生实际和实质性影响的方式”。

据环球网报道，5 月 4 日，拜登政府则宣布对“值得信赖的”人工智能增加新投资。同日，美国副总统哈里斯以及多位白宫高级官员与谷歌、微软、OpenAI 和 AI 初创公司 Anthropic 的首席执行官会面，集中讨论当前和近期的技术发展所带来的风险。

每日经济新闻综合第一财经、环球网、澎湃新闻、财联社