AI·新世界

美国唯一一个专门负责评估人工智能安全性的政府机构——美国人工智能安全研究所（AISI）——正面临解散的危险。除非国会选择授权，否则该机构可能因撤销拜登的行政命令而被关闭。

AISI的成立背景

AISI于2023年11月作为乔·拜登总统的人工智能行政命令的一部分成立，隶属于商务部下属的国家标准与技术研究院（NIST）。该机构的使命是研究人工智能系统的风险，并为技术的部署提供指导。

当前状况

尽管AISI已有预算、主任，并与英国的人工智能安全研究所（U.K. AISI）建立了研究伙伴关系，但其存续仍然脆弱。只需撤销拜登的行政命令，AISI就可能被解散。

克里斯·麦肯齐，人工智能游说团体“负责任的创新美国人”的高级通信总监，指出：“如果另一位总统上台并撤销人工智能行政命令，他们将解散AISI。特别是，唐纳德·特朗普承诺撤销人工智能行政命令。”

授权的重要性

授权AISI不仅能够确保其未来的稳定性，还可能导致国会为其提供更稳定、长期的资金。目前，AISI的预算约为1000万美元，相对于硅谷主要人工智能实验室的投入，这一金额相对较小。

麦肯齐补充道：“国会中的拨款者倾向于给国会正式授权的实体更高的预算优先级，因为他们理解这些实体有广泛的认同，并且是为了长期存在，而不仅仅是一个政府的临时优先事项。”

行业和支持者的呼吁

今天，一个由60多家公司、非营利组织和大学组成的联盟致信国会，呼吁在今年年底前通过立法，将AISI正式化。签署者包括OpenAI和Anthropic，这两家公司已与AISI签署了合作协议，在人工智能研究、测试和评估方面进行合作。

参议院和众议院都已提出两党法案，授权AISI的活动。然而，这些提案遭到了包括德克萨斯州参议员泰德·克鲁兹（Ted Cruz）在内的保守派议员的反对，他要求参议院版本的AISI法案撤回多样性项目。

AISI的作用和未来

尽管AISI的标准是自愿的，但智库和行业联盟认为，它是制定人工智能基准最有希望的途径，这些基准可以成为未来政策的依据。一些利益集团担心，允许AISI关闭将冒着将人工智能领导权让给外国国家的风险。

信息技术产业理事会（IT行业贸易协会）总裁兼首席执行官杰森·奥克斯曼（Jason Oxman）在一份声明中表示：“随着其他国家迅速前进，国会议员可以通过永久授权人工智能安全研究所，为其在美国人工智能创新和采用中的关键作用提供确定性，确保美国不会在全球人工智能竞赛中落后。”“我们敦促国会听从今天来自行业、民间社会和学术界的行动呼吁，在今年年底前通过必要的两党立法。”（来源）