美国人工智能安全研究所：愿景、使命和战略目标

近日，在人工智能首尔峰会开始之际，美国商务部长吉娜·雷蒙多发布了美国人工智能安全研究所（AISI）的战略愿景，描述了拜登总统领导下的国防部人工智能安全方法。在拜登总统的指导下，商务部下属的国家标准与技术研究所（NIST）在NIST长期致力于人工智能的基础上，启动了AISI。除了发布战略愿景外，雷蒙多还分享了商务部计划通过与人工智能安全研究所和其他政府支持的科学办公室进行有意义的合作，与全球人工智能安全科学网络合作，并于今年晚些时候在旧金山地区召集这些研究所，该研究所最近在旧金山成立。美国商务部长吉娜·雷蒙多表示：“人工智能的最新进展为我们的社会带来了令人兴奋的、改变生活的潜力，但前提是我们必须努力减轻人工智能的真正危险，如果不负责任地开发和部署人工智能的话。这是我们在美国人工智能安全研究所每天工作的重点，我们的科学家与民间社会、学术界、工业界和公共部门充分接触，以便我们能够了解和降低人工智能的风险，其根本目标是利用其利益。”。“我们今天发布的战略愿景明确了我们打算如何努力实现这一目标，并强调了通过全球人工智能安全科学网络与盟友合作的重要性。安全促进创新，因此至关重要的是，我们要做到这一点，并与世界各地的合作伙伴合作，确保人工智能道路规则由维护人权、安全和信任的社会制定。”美国商务部AI安全研究所战略愿景此次发布的战略愿景概述了AISI计划采取的步骤，以推进人工智能安全科学，促进安全和负责任的人工智能创新。在拜登总统的指示下，NIST成立了AISI，并建立了一个行政领导团队，汇集了学术界、工业界和政府中一些最聪明的人才。战略愿景描述了AISI的理念、使命和战略目标。植根于两个核心原则——第一，有益的人工智能取决于人工智能的安全性；其次，人工智能安全取决于科学——AISI旨在应对关键挑战，包括缺乏前沿人工智能的标准化指标、测试和验证方法不发达、国家和全球在人工智能安全问题上的协调有限等。AISI将专注于三个关键目标：1.推进人工智能安全科学；2.阐明、展示和传播人工智能安全实践；3.支持机构、社区和围绕人工智能安全的协调。为了实现这些目标，AISI计划除其他活动外，对先进的模型和系统进行测试，以评估潜在和新出现的风险；制定关于评估和风险缓解等主题的指导方针；进行和协调技术研究。美国人工智能安全研究所将与不同的人工智能行业、民间社会成员和国际合作伙伴密切合作，以实现这些目标。国际人工智能安全研究院网络启动与此同时，雷蒙多部长宣布，国防部和AISI将通过与人工智能安全研究所和其他专注于人工智能安全并致力于国际合作的政府支持的科学办公室进行有意义的接触，帮助建立一个全球人工智能安全科学网络。在大韩民国和我们的其他合作伙伴在人工智能首尔峰会上通过《人工智能安全科学国际合作首尔意向声明》达成的基本谅解的基础上，该网络将加强和扩大AISI之前宣布的与英国、日本、加拿大和新加坡人工智能安全研究所以及欧洲人工智能办公室及其科学组成部分和附属机构的合作，并将推动人工智能安全科技和治理的国际协调进入新阶段。该网络将通过在战略研究和公共交付方面进行更紧密的合作，为世界各地的人们推广安全、可靠和值得信赖的人工智能系统。为了进一步加强该网络之间的合作，AISI计划于今年晚些时候在旧金山地区召集国际人工智能安全研究所和其他利益相关者。AISI最近在湾区建立了办事处，并将利用该地点招聘更多人才。