美国国防部组建生成AI能特别工作组

8月20日消息，据外媒报道，近日美国国防部成立了一个生成人工智能（AI）工作组，旨在帮助监督整个部门采用人工智能工具的过程，同时避免此类部署的一些陷阱。

据介绍，这个新机构被称为利马（Lima）特遣部队，是在美国国防部副部长凯瑟琳·希克斯 (Kathleen Hicks) 的指导下组建的，预计将在分析和整合美国国防部中的大型语言模型 (LLM) 等生成式AI工具方面发挥至关重要的作用部门。

希克斯在一份声明中表示，国防的未来不仅仅是采用最新技术，还需要负责任地进行，并深入了解更广泛的影响。“当我们驾驭生成式AI的变革力量时，我们的重点仍然是确保国家安全、最大限度地降低风险以及负责任地整合这些技术。”

利马工作组的作用将是评估生成式AI能力，并帮助在整个国防部实施这些能力，目标是确保国防部在维护国家安全的同时保持在先进技术的前沿。

自从 OpenAI 在去年年发布 ChatGPT 以来，生成式AI开始爆发，人们开始对这项能够生成文本、图像、视频的生成式 AI 技术疯狂追捧。

微软今年早些时候将 ChatGPT 引入了其 Bing 搜索引擎，并认为该技术能够回答复杂的问题并为用户提供更好的答案。

美国国防部表示，它希望使用这种生成式AI模型，利用庞大的数据集来训练能够有效产生结果的算法，从而增强其在作战、商业事务、健康、战备和政策等领域的运作。

利马特别工作组将由首席数字和人工智能办公室 (CDAO) 领导，该办公室于 2022 年 6 月开始运作，负责推动国防部采用数据、分析和人工智能技术。

“在国防中采用AI不仅涉及创新技术，还涉及增强国家安全，”利马特遣部队任务指挥官、CDAO 算法战争理事会成员、美国海军上尉曼努埃尔·泽维尔·卢戈 (Manuel Xavier Lugo) 表示。卢戈领导的团队由来自国防部长办公室 (OSD)、联合参谋部、各军种、其他国防部机构和情报界的首席参谋助理组成。美国国防部表示，来自工业界和学术界的专家也将参加。

卢戈说：“军种和作战司令部正在积极寻求利用生成式AI能力和法学硕士在多个任务领域的优势并管理其风险，包括情报、作战规划、程序和业务流程。”

国防部对法学硕士和生成式AI的风险保持谨慎是明智的。上周，普渡大学进行的一项研究发现，ChatGPT  在回答编程问题时，52% 的情况下都会给出错误答案，但由于 Chabot 的“权威风格”，用户经常会被哄骗接受错误答案。

此外，正如斯坦福大学的研究人员  今年早些时候在试验 Meta 平台的 LLaMA 模型时指出的那样，“指令跟踪模型仍然存在许多缺陷：它们会生成虚假信息、传播社会刻板印象并产生有害语言。”

编辑：芯智讯-林子