据《纽约时报》报道，乔·拜登总统预计将于周四签署一份备忘录，详细说明包括五角大楼在内的情报和国家安全机构应如何使用和实施AI的护栏措施。这份备忘录旨在确保AI技术的安全和合理使用，防止其被外国对手利用。
主要内容
- 人类“参与循环”：
- 目标：确保在可能用作武器的AI工具中保持人类“参与循环”。
- 禁止：禁止AI在未经人工审查的情况下决定授予庇护、根据某人的种族或宗教追踪他们，或将被判定为“已知恐怖分子”。
- 保护AI和AI芯片：
- 目标：防止外国对手的间谍活动或盗窃。
- 措施：要求情报机构开始保护AI和AI芯片的工作。
- AI安全研究所的作用：
- 授权：授权最近成立的AI安全研究所帮助在AI工具发布前进行检查。
- 目的：确保这些工具不会帮助恐怖组织或敌对国家。
实施时间表
尽管备忘录设定了多项最后期限，但《纽约时报》指出，许多最后期限将在拜登离任后到期。因此，目前尚不清楚该命令最终将产生多大的影响。
背景
随着AI技术的快速发展，其潜在的安全风险也日益凸显。外国对手可能利用先进的AI技术进行间谍活动、网络攻击或其他恶意行为。因此，美国政府希望通过这些措施加强AI技术的安全性和可控性，保护国家安全和公民权益。（来源）