美国白宫宣布首个AI监管计划：拨款1.4亿建立研究中心

神译局是36氪旗下编译团队，关注科技、商业、职场、生活等领域，重点介绍国外的新技术、新观点、新风向。

编者按：生成式人工智能的发展迅猛至极，目前“是福是祸”还未可知。美国白宫周四表示，将支持新的规则或立法，来减轻人工智能技术的潜在危害，首先一项举措便是拨款 1.4 亿美元，以建立新的国家级人工智能研究机构。本文来自编译，希望对您有所启发。

图片来源：bloomberg.com

周四，美国副总统卡玛拉·哈里斯（Kamala Harris）在与 Alphabet、微软、OpenAI 和 Anthropic 公司的首席执行官会面后表示，白宫将支持新的规则或立法，来减轻人工智能技术的潜在危害。

哈里斯称，近几个月来，生成式人工智能工具的使用量激增，并带来了复杂的挑战，企业必须与政府合作，确保保护公民权利和隐私，防止错误信息的传播和出现诈骗问题。

哈里斯在一份声明中说：“政府、私营企业和社会上的其他人必须共同应对这些挑战。拜登总统和我会尽好自己的职责，包括推进可能出台的新法规，以及支持新的立法，以确保每个人都能安全地从技术创新中受益。”

哈里斯还提到，业界需要承担起责任来，称“企业有道德义务和法律责任来确保其产品的安全。”

美国总统乔·拜登（Joe Biden）出席了会议，与会的还有 OpenAI 的首席执行官萨姆·奥特曼（Sam Altman）、Anthropic 的达里奥·阿莫代伊（Dario Amodei）、微软的萨蒂亚·纳德拉（Satya Nadella）、Alphabet 的桑达尔·皮查伊（Sundar Pichai）和一些政府高级官员。

公众监督

在会议召开之前，主要的人工智能公司，包括微软和 Alphabet 旗下的谷歌，都承诺将参与对其各自系统的首次独立公开评估。这意味着在 8 月份的 Def Con 31 极客大会上，黑客和人工智能专家可以对人工智能系统进行测试和评估。

一名不愿透露姓名的高级政府官员在会议前表示，黑客大会上的评估主要是为了产出更多关于“这些模型产生的影响”的公开信息，并使公司能够尽快解决出现的问题。

人工智能倡导者表示，此次大会将有助于识别产品中的错误、故障和漏洞，此外还将消除对可能存在的偏见、侵犯隐私或恶意使用新兴技术等问题的广泛担忧。

以上提及的以微软为代表的几家公司，只承诺在黑客大会上让自家模型被评估，而不承诺将随着新产品的生产和完善而被持续评估。这可能不足以满足监管机构的要求。

但这位官员表示，提议在 8 月黑客大会期间开放系统进行评估，只是监管动作的第一步。

另外，白宫宣布投资 1.4 亿美元的资金，用于建立新的国家人工智能研究机构，旨在研究 AI 将如何在气候、农业、能源和公共卫生等关键领域发挥作用。此前，该项计划已向 18 家研究机构提供了约 3.6 亿美元的首轮资助。

在美国，商务部今年 4 月表示正在考虑制定法规，要求人工智能模型在发布前必须通过认证程序。

周三，美国联邦贸易委员会主席莉娜·汗（Lina Khan）表示，该机构正在密切监控人工智能工具的使用。她说：“尽管这些工具很新颖，但它们不能免于现有规则的约束，联邦贸易委员会将大力执行相关法律法规。”

上周，七国集团（Group of Seven，简称 G7）数字部长表示，成员国应该对人工智能采取“基于风险”的监管，而欧盟立法者已经就人工智能法案（AI Act）达成了初步协议，该法案将监管这一新兴技术。

周四会议的与会人员还包括白宫办公厅主任（Chief of Staff）杰夫·齐恩茨（Jeff Zients）、商务部长吉娜·雷蒙多（Gina Raimondo）、国家安全顾问杰克·沙利文（Jake Sullivan）和拜登的技术顾问阿拉蒂·普拉巴卡（Arati Prabhakar）。

译者：Jane