美国非洲司令部寻求OpenAI技术支持,引发伦理和技术风险担忧

一、合作背景与采购文件披露

在OpenAI悄然向五角大楼示意希望合作不到一年后,科技媒体The Intercept获得一份采购文件。该文件显示,美国非洲司令部(AFRICOM)认为获得OpenAI的技术对其任务“至关重要”。

地址:https://theintercept.com/2024/10/25/africom-microsoft-openai-military

(一)文件概述采购内容及理由

9月30日的文件指出,AFRICOM从微软直接购买云计算服务,作为其90亿美元联合战云能力合同的一部分,而非在公开市场寻找其他供应商。文件称“AFRICOM在动态变化环境中运作,IT对实现任务目标起关键作用”,包括“支持非洲任务伙伴和AFRICOM联合演习等重要任务”。

(二)文件性质与审批情况

这份标记为受控非机密信息(FEDCON)的文件,表明不打算在政府或承包商之外分发。文件显示,AFRICOM的请求已获国防信息系统局批准,虽采购价格被涂黑,但批准文件指出价值低于1500万美元。

二、AFRICOM对云计算及OpenAI技术的需求

与国防部其他部门一样,AFRICOM(负责监督五角大楼在非洲行动及与盟友军事合作)对云计算需求日益增加。国防部已通过联合战云能力项目从微软购买云计算访问权限,新文件反映AFRICOM希望绕过合同繁琐程序,立即购买微软Azure云服务(包括OpenAI软件),且认为微软的Azure云平台(含OpenAI工具)是唯一能满足其需求的供应商,强调“支持高级AI/ML工作负载的能力至关重要,包括搜索、自然语言处理等统一分析服务”。

三、OpenAI与国防部相关合作历程

(一)微软销售OpenAI模型及合作项目

微软于2023年6月开始向国防客户销售OpenAI的GPT - 4大型语言模型。今年,OpenAI改变立场后,1月宣布与DARPA合作网络安全,称其工具用于退伍军人自杀预防计划;4月,微软向五角大楼推销OpenAI的图像生成工具DALL - E用于指挥和控制软件。此次AFRICOM文件标志着美国作战司令部首次确认购买OpenAI产品,其任务涉及杀戮。

(二)OpenAI企业使命与实际行动的矛盾

OpenAI企业使命是“确保人工通用智能造福全人类”,但文件称“OpenAI工具”是微软提供的“独特功能”之一,对AFRICOM任务和运营需求至关重要,若没有将面临诸多挑战。然而,AI Now研究所首席AI科学家Heidy Khlaaf指出,采购者对工具高风险缺乏认识,其输出高度不准确且常编造。

四、OpenAI与美国国家安全机构的关系发展

自1月OpenAI删除服务条款中禁止军事工作部分后,与美国国家安全机构关系渐密。6月,OpenAI在董事会增加前国家安全局局长Paul Nakasone,现任国家安全合作伙伴负责人Katrina Mulligan是五角大楼校友。周四,白宫指示五角大楼加速采用OpenAI等公司工具后,OpenAI发表文章概述其“人工智能与国家安全的方法”,提及相关价值观和原则,但AFRICOM在非洲的行为与OpenAI宣称的国安框架不符,如AFRICOM司令曾称与政变领导人有共同价值观,且该司令部在非洲存在诸多争议行为及不良后果。

五、AFRICOM在非洲的活动及问题

(一)AFRICOM的任务与基地网络

AFRICOM自2007年成立,主要任务包括训练非洲军队、特种作战及运营无人机基地等,以对抗激进组织,声称“轻足迹”,但2020年报道显示有29个美军基地网络。

(二)非洲暴力事件激增与政变问题

非洲激进伊斯兰组织袭击次数大幅增加,且有接受美国安全援助的军官参与政变,如去年尼日尔政变。

(三)人权问题与信息管理不当

美国盟友被指控侵犯人权,如喀麦隆军事基地用于酷刑军事囚犯。AFRICOM信息管理不当,如不知受训者政变次数,且无人机袭击导致平民丧生等致命后果。

我们将24小时内回复。
取消