拜登签署行政令，评估人工智能系统安全问题

​

10月31日消息，据美国商务部官网信息，美国总体拜登于当地时间10月30日签署了一项行政命令 (EO)，以建设美国评估和减轻人工智能 (AI) 系统风险的能力，以确保安全、保障和信任，同时促进创新、有竞争力的人工智能生态系统，支持工人并保护消费者。美国商务部将在实施行政命令方面发挥关键作用，将复杂的标准和评估能力与报告要求和自愿措施的强有力结合结合起来。

具体来说，美国国家标准与技术研究院（NIST）、工业与安全局（BIS）、国家电信和信息管理局（NTIA）以及美国专利商标局（USPTO）将负责开展该行政令目标的重要组成部分。

“美国商务部在美国政府抓住先进人工智能发展潜力、同时减轻危险能力或安全风险的过程中发挥着关键作用。今天的行政命令重申了我们部门的领导地位，准备承担重大责任，以实现总统建设一个更安全、更有保障的世界的愿景，”美国商务部长吉娜·雷蒙多 (Gina Raimondo)表示：“在美国领先公司今年早些时候做出的自愿承诺的基础上，总统正在向前迈出关键一步，以促进和激励人工智能领域安全和负责任的创新。”

NIST 的专家将领导美国政府的人工智能安全技术工作。他们将在现有工作的基础上，为前沿人工智能模型的安全和负责任的开发制定行业标准，创建测试环境来评估这些系统，并制定隐私和人工智能生成内容时的身份验证标准。

美国商务部负责标准与技术的副部长兼 NIST 主任 Laurie Locascio 表示： “为了扩大我们在人工智能领域的广泛努力，NIST 将与私人和公共利益相关者合作，履行行政命令规定的职责。”“我们致力于制定有意义的评估指南、测试环境和信息资源，以帮助组织开发、部署和使用安全可靠的人工智能技术，并增强人工智能的可信度。”

BIS 将援引《国防生产法》制定措施，在开发下一代前沿人工智能模型时增强安全性，包括要求开发人员报告他们为测试模型而采取的步骤并防止模型被盗。这些措施建立在白宫对安全、安保和信任的自愿承诺的基础上，并将促进人工智能的安全开发和使用。

“人工智能技术是一种强大的工具，如果不安全地开发和使用或落入恶意行为者手中，它既可能成为正义的力量，也可能带来潜在的危险，”工业和安全部副部长艾伦·埃斯特维兹 (Alan Estevez)表示。“工业和安全局随时准备制定今天的行政命令规定的法规和程序，以增强安全并保护我们的国家安全和外交政策利益，同时又不妨碍技术发展和贸易蓬勃发展的能力。”

除其他任务外， NTIA 将准备一份报告，以评估模型权重（构成人工智能模型关键的数字数组）在线发布或“开源”时的风险和收益。开源材料以及创建它们的社区可以推动创新。但这些模型权重如果落入坏人之手也可能带来风险。

“在 NTIA，我们对开源人工智能系统的力量和前景非常感兴趣，”负责通信和信息的助理商务部长兼 NTIA 管理员 Alan Davidson 表示。“这些系统有潜力在全国范围内释放创新，为初创公司、研究人员和个人提供可用的人工智能工具。但它们在潜在的误用和伤害方面也带来了独特的风险。作为行政命令工作的一部分，我们将评估如何以负责的方式推进开源人工智能系统。”

美国专利商标局将澄清知识产权和人工智能交叉点的关键问题。

“在人工智能方面，我们国家在支持包容性和公平的创新和创业，以及快速、大规模地解决世界问题方面拥有巨大潜力。但我们必须深思熟虑、谨慎行事，以降低风险并确保人工智能的采用负责知识产权的商务部副部长和专利商标局局长 Kathi Vidal表示：“总统的行政命令实现了这种平衡，确保我们激励关键和新兴技术的创新，包括通过对发明者和创造者提供适当的知识产权保护，同时促进国家安全和人工智能安全。”

该部门还将在国际场所发挥关键作用，以确保全球范围内安全、可靠和值得信赖的人工智能开发和使用。

相关文章：《高性能计算芯片受限后，“云上算力”也将受限？》