








哈桑主席、罗姆尼排名委员和尊敬的小组委员们,感谢您们邀请我今天作证。战略与国际问题研究中心(CSIS)不持有政策立场,因此本证词中所表达的观点属于我个人的观点,不应被视为代表我目前或以前的雇主的观点。我目前担任CSIS的瓦德瓦尼人工智能与先进技术中心主任,领导一个团队在技术、经济和国家安全交叉领域进行政策研究。在加入CSIS之前,我在美国国防部联合人工智能中心工作了三年,最近担任战略与政策主任。在今天的证词中,我希望能够从我在政府任职以及离开政府后的研究工作中获得的经验,就人工智能(AI)和其他新兴技术的国家安全威胁提供一个观点。一个总体趋势:成本和复杂性降低首先,我要说的是,在许多领域存在一种广泛的技术趋势,即许多技术能力和活动的成本和复杂性显著降低。在许多情况下,执行相同活动所需的资金和高度训练有素的专家人员更少。因此,曾经只有大型政府或军事组织才能够执行的某些类型的活动现在可以由个别公司甚至个人来执行。以轨道航天发射为例,这只是一个说明性的例子。在SpaceX成功发射猎鹰1号之前,开发新的轨道航天发射器通常需要数十亿美元的投资,并需要数千或数万名员工。SpaceX开发的猎鹰1号在2008年成功发射,仅耗资9000万美元。当时,SpaceX只有大约500名员工。总的来说,技术成本和复杂性的降低以及它们所能实现的活动是全球经济和社会的好消息。这一趋势应该受到赞扬。然而,它也给美国国家安全带来了真正的挑战,因为高成本和复杂性在历史上一直是危险活动的障碍。例如,发展核武器是昂贵和复杂的,这是好事。如果制造一个功能齐全的核武器变得廉价和简单,美国的安全将大大降低。虽然核武器仍然昂贵和复杂,但在一些重要领域,开发、获取和使用与国家安全相关的技术的成本和复杂性正在下降。在某些重要领域,这包括将某些危险能力置于非国家行为者的掌握范围之内,这些行为者将寻求利用这些能力来威胁美国。我今天将重点关注其中的三个领域。降低自主无人机武器化的成本和复杂性举一个简单的例子,绝大多数非国家恐怖组织和叛乱分子在历史上没有获得军用航空力量,无论是空中侦察还是远程精确打击,除非它们得到外国政府的军事援助。否则,飞机通常太昂贵且难以维护。然而,商用无人机的出现显著改变了这一情况。在2016年的摩苏尔战役中,伊斯兰国在一个月内进行了300多次无人机任务,其中大约有100次用于运送爆炸物。美国空军将此描述为自朝鲜战争以来美国地面部队首次遭到敌方飞机袭击的事件。伊斯兰国在此期间使用的典型无人机是一种商用型号,购买价格约为650美元,然后进行了改装以携带爆炸物。商用无人机被改装为军事应用的趋势现在在乌克兰战争的双方都存在,乌克兰军队使用商用无人机向俄罗斯坦克投掷爆炸物,以100美元的手榴弹和1000美元的无人机摧毁价值数十万或数百万美元的俄罗斯车辆。在乌克兰战争中使用的无人机通常是远程操控的,飞行距离相对较短,但随着改进的技术越来越普遍,这种情况可能会改变。俄罗斯军队已经在乌克兰使用具有自主导航能力的神风无人机武器,2023年初,一家俄罗斯私人军事公司的领导人表示该公司打算在实际战斗中测试一种AI启用的自主坦克武器系统,尽管这可能是为了吸引注意力而夸大其词。越来越强大、越来越自主的无人机以极低的成本提供军事相关能力的基本趋势极有可能继续下去。目前,美国在无人机恐怖袭击方面,无论是否启用AI,都没有面临重大挑战。然而,相关的技术要素已经就位,这种威胁有可能出现。在过去,某些类型的恶意活动,如勒索软件,在成为广泛的网络犯罪手段之前,技术上是可行的很长一段时间。降低生物病原体开发的成本和复杂性生物技术是一个明显的例子,危险活动的成本和复杂性已经几十年来一直在下降。二战期间,美国的生物武器计划雇佣了大约4000人,其中有500多人是技术专家。其多年预算总额约为4000万美元(2023年为6.9亿美元)。当时,这被认为是一个生物武器研究和开发努力的最低可行规模。几十年后,在20世纪90年代,日本的奥姆真理教恐怖组织多次试图使用肉毒杆菌和炭疽病毒开发和使用生物武器。幸运的是,奥姆真理教的生物武器努力失败了。然而,尽管只有少数几名技术专家和比任何国家更小的研发预算,该组织成功地执行了许多开发和传递生物武器的步骤。特别值得注意的是,奥姆真理教的成员接受过合法学术研究机构的教育,并与其有联系。如今,先进的基因工程技术(如CRISPR)的发展已经极大地降低了基因编辑的成本和复杂性,以至于即使是业余爱好者也可以修改病毒的基因。一些研究机构以前已经发布了与高致病性(但不易传染)病原体(如禽流感)相关的基因信息。恐怖分子和恐怖组织在奥姆真理教的脚步中,可能能够创造出既高度传染又高度致命的基因改造病原体。美国情报界在一份之前提交给国会的报告中特别指出了这种生物武器扩散威胁。高质量伪造媒体的成本和复杂性降低现代人工智能技术最引人注目的能力之一是其能够生成引人入胜的合成数字媒体,包括文本、照片、视频和音频文件,可以逼真地模仿或描绘真实人物在适当的背景下。如今,许多这些AI启用的媒体伪造能力,通常被称为深度伪造,已经足够逼真,可以经常欺骗未经训练的眼睛和耳朵,有时甚至可以欺骗经过训练的眼睛和耳朵。此外,这些工具不仅越来越多地可供高级计算机科学家使用,而且几乎任何拥有计算机或智能手机的人都可以使用。在我在国防部任职期间,我的组织与DARPA合作,致力于使用技术分析来检测深度伪造媒体。类似的努力已经在私营部门和学术界广泛展开,以开发数字取证工具来检测AI生成的媒体。然而,这些工具的开发并没有阻止深度伪造在网络犯罪和虚假信息攻击中越来越突出地发挥作用。例如,2019年7月,赛门铁克报告称,他们知道有三起案件中使用了深度伪造音频作为冒充公司首席执行官的犯罪行动的一部分,公司员工被欺骗转移了数百万美元的资金。最近,深度伪造已被用于虚假绑架诈骗和其他类型的犯罪活动。除了犯罪盗窃,深度伪造在政治动机的虚假信息攻击中也越来越常见。2022年3月,一段深度伪造视频(据推测由俄罗斯政府制作)描绘乌克兰总统泽连斯基向俄罗斯投降,并指示乌克兰军队停止战斗。这个特定深度伪造的质量相当低,乌克兰政府一直在警告其公民预计会出现被篡改的视频。因此,很少有人被愚弄。亲中宣传组织最近也使用了深度伪造媒体作为网络虚假信息的一部分。这也是一个质量低劣的努力,影响很小。然而,这些例子不应让任何人得出结论,即未来的深度伪造虚假信息攻击将继续同样笨拙和无效。许多早期的网络攻击也是笨拙和无效的,但这个领域随着时间的推移得到了巨大的改进。此外,近年来世界历史上的重要事件经常取决于在正确的时间传播正确的媒体。例如,2015年土耳其未遂政变在一定程度上得以阻止,因为土耳其总统通过视频通话进行了一次现场电视采访,成功地鼓励土耳其公民抗议政变。如果那次新闻广播被深度伪造的虚假信息攻击所利用,也许那天的事件可能会走上不同的道路。人工智能治理2012年,将深度神经网络和GPU处理器应用于图像识别的革命开启了人工智能技术的十年革命性进展。在过去的一年里,随着生成式人工智能模型的应用,第二次同样非凡的人工智能革命已经开始。过去15年中的这两个重要里程碑极大地扩大了人工智能在全球经济、公民社会和国际安全中的应用范围和规模。生成式人工智能有潜力颠覆行业,提高效率和质量,但也会引发关于劳动力置换、教育、知识产权和负责任使用等问题。无论大小,人们和组织已经在使用人工智能来提高劳动生产率、推动反通胀增长、开发更可持续的产品、治愈疾病、养活不断增长的人口和应对气候变化。未来,人工智能有潜力改变社会学习、工作、创新和应对全球挑战的方式。像任何技术一样,人工智能存在风险。人工智能可以被恶意用于伤害,例如前面提到的虚假信息攻击,也可能通过技术或管理失误造成无意中的伤害。在减轻人工智能风险和追求增加采用的好处之间不存在固有的权衡。我们可以同时追求这两个目标。人工智能的监管和框架必须平衡、符合伦理,并成为一个国际互操作框架的一部分。当人工智能在受监管的应用中使用时,许多使用人工智能的领域已经受到了监管。例如,使用人工智能作为消费者贷款决策的一部分的银行仍然受到相关法规的约束,如非歧视法规。任何在飞机上使用机器学习的地方仍然受到美国航空安全法规的约束。然而,对于监管机构来说,一个关键的挑战是人工智能系统变得越来越强大和越来越通用。例如,许多大型语言模型可以详细阐述从医疗建议到工程帮助再到军事战略等各种主题。这些模型目前存在“幻觉”和其他可靠性问题,限制了大多数客户在没有适当的防护措施的情况下将其部署在任务和安全关键应用中的意愿。行业特定的监管仍然有用和适当,但也有机会制定更一般的监管,这对于最大和最先进的模型来说将是有帮助的。支持人工智能安全的更一般的监管应采取最先进人工智能模型的许可制度和支持开发和使用最先进人工智能模型的云计算公司的了解客户要求的形式。人工智能和半导体出口管制机器学习驱动的人工智能是一种通用技术,类似于电力或数字计算机。在二战期间首次发明时,计算机只有少数几个重要的军事应用,如破解密码。如今,几乎每一种军事技术都在某种程度上涉及计算机,无论是无线电通信还是导弹制导系统。即使是没有任何计算机的军事物品,如靴子或子弹,也是在计算机上设计的。军事人工智能在今天的情况与20世纪40年代和50年代的计算机类似。在一些应用领域,使用人工智能已经带来了显著的军事效益,例如卫星图像分析。在未来的几十年里,人工智能技术将在军事活动的日益增长的份额中发挥作用。美国和中国的高级军事领导层都认为,人工智能将成为未来军事和经济实力的基础。在某些领域,人工智能将真正改变军事行动和战争的进行方式。国防部的复制器计划旨在在未来24个月内部署数千架AI启用和可拆卸的自主无人机,这是一个例子。人工智能的发展不仅仅是一个软件问题。所有软件都必须在某个地方的半导体芯片硬件上运行,而这些硬件和在其上运行的软件架构是美国和盟国在技术上具有重要优势的领域。2022年10月7日,拜登政府采取了一项新的出口管制政策,旨在严重限制中国获得美国的半导体技术,包括芯片、芯片制造设备、芯片设计软件和设备组件。这是中美关系历史上的一个真正里程碑。在执行方面,上述四个瓶颈并不完全相同。芯片制造设备大型、昂贵且数量有限,最容易在销售前和销售后进行执行。然而,从中国的角度来看,AI进展的最直接途径就是继续使用美国芯片。正是在这个第一个关键的瓶颈上,中国最公然地试图逃避我们的出口管制,并且往往成功。商务部工业与安全局(BIS)负责监督大部分出口管制。不幸的是,BIS越来越受到全球走私和出口管制逃避网络的挑战,特别是那些得到俄罗斯和中国支持的网络。例如,调查人员检查了乌克兰被击落的俄罗斯武器系统的残骸,发现其中包含美国和盟国的组件,包括在2014年俄罗斯出口管制实施后几年制造的电子设备。在我们的地缘政治竞争对手追求越来越具有侵略性和更好资源的手段来获取关键技术时,BIS必须利用一切可用的工具增加能力和生产力,以实现有效的执法。在当前的国际形势下,美国领导的出口管制背后的国际势头为解决一个紧迫的问题提供了独特的机会,即应对俄罗斯入侵乌克兰,并推动美国政府机构采用数字技术以实现任务影响。在地缘政治格局发生变化的情况下,需要重新振兴美国政府的出口管制能力,而这又不能没有额外的资源。CSIS对其他具有类似任务要求的美国政府机构进行的相关、可比较的数据驱动数字技术现代化努力的分析表明,通过为BIS的技术现代化额外拨款每年增加大约2500万美元,连续五年,可以实现显著的改进。这笔资金将使BIS能够更好地摄取、连接和分析来自政府和开放源数据的数千亿条记录。通过应用现代数据科学和机器学习技术,BIS可以提高其所有流程的生产力,例如自动检测一个所谓的东欧“拖拉机制造商”与供应俄罗斯军方发动机的供应商具有相同的电话号码。这个数字考虑到了BIS在与其他美国政府机构改善合作以及防止不必要的工作重复方面的机会。然而,一个更高效的执法分析社区将确定更多的实体可能是从事非法交易的壳公司。这将进一步增加执法人员对这些被确定的实体进行现场检查或刑事调查的需求。尽管分析社区的工作在当前技术限制下的有效性严重受到限制,但其工作已经确定了足够数量的候选实体进行检查,以超过当前员工的能力。因此,除了每年增加2500万美元的资金,以支持BIS分析能力的新技术和人员外,BIS还需要每年额外拨款1840万美元和48个职位,以及另外120万美元用于支持这些人员进行工作的机密设施空间的增加。因此,建议额外的BIS预算拨款总额为每年4460万美元。从投资回报的角度来看,每年将BIS的预算增加4460万美元可能是美国国家安全领域可用的最佳机会之一。美国政府目前正在花费数百亿美元帮助乌克兰销毁由美国技术驱动的俄罗斯军事武器。每年为BIS提供几千万美元的资金,以使出口管制执法的技术现代化,并增加他们的人员,将在很大程度上确保未来建造使用美国技术的俄罗斯和中国武器的数量大大减少。结论人工智能和生物技术以及其他新兴技术是全球经济中最令人兴奋的发展之一。虽然我在证词中重点关注了这些技术对美国国家安全带来的风险和挑战,但我要再次强调,新兴技术具有巨大的积极潜力。美国政府应该在这些技术有潜力产生积极影响的领域加快采用,同时追求能够提高美国安全的安全和其他机制。感谢您给我今天作证的机会,我期待着您的问题。









