Page 149 - 《国际安全研究）》2020年第2期

2020 年第 2 期

险成本”，是指由于风险的存在和风险事故发生后，人们所必须支付的费用和减少
的预期经济收益，主要包括风险损失的实际成本、无形成本以及预防成本。随着人
工智能逐渐应用于战略决策领域，未来对高风险决策算法的依赖程度将越来越高。
但是由于算法和数据偏差的存在，在应用人工智能辅助或者制定决策的过程中，不
得不充分考虑“风险成本”：一方面，“风险成本”的存在将直接削弱并挑战人工
智能的信度和效度；另一方面，将人工智能应用于高风险决策领域会造成国家无法
接受的“高风险成本”。

（六）人工智能为未来武装冲突带来种种不确定性
人工智能在军事领域的应用将直接导致武器装备的更新换代。几乎可以确定的
是，随着大量智能化武器以及无人系统运用于战场，未来战争将突出显示大规模杀
伤性、致命性自主武器的作用，直接促使武器装备的更新换代。与此同时，人工智
能将极大地降低战争的“人工成本”，作战人员的“零伤亡”有望成为现实。由此，
战争作为国家实现战略目标的有效工具或者途径可能被广泛接受（特别是大国）并
频繁使用，战争决策将会变得更加容易，这将极大增加未来武装冲突的频率。

致命自主武器的大规模应用将急剧提升武装冲突的强度和烈度，并将会造成
严重的负面结果。“在复杂的战场环境下，拥有高度智能的无人作战系统极有可
能出现识别错误、通信降级甚至被敌电磁、网络攻击后‘倒戈反击’等问题，而
①
诸如无差别攻击、系统失控等更会给智能武器的军事应用带来无穷隐忧。” 虽
然可以合理地预期人工智能相关错误的发生频率远低于人为错误，但致命自主武
器具有更高的破坏潜力，将会直接提高武装冲突的强度，极有可能导致战争的全
面升级。

三 美国视角：中国人工智能发展与美国国家安全

目前，美国“官-智复合体”作为安全行为施动者将“中国人工智能的发展”
指涉为“存在性威胁”，并通过“安全化”途径，使得“存在性威胁”获得“主体
②
间性”的确认并逐步取得共识。 故此，中国人工智能发展问题应当被最高决策层
优先于其他问题予以考虑和处理。总体而言，美国认为中国人工智能发展与美国国
家安全的关系，具体表现在以下几个方面：

① States Army War College, “Strategic Robotpower: Artificial Intelligence and National
Security,” 2017, http://publications.armywarcollege.edu/pubs/3497.pdf.
② 参见[英] 巴瑞·布赞、[丹] 奥利·维夫等：《新安全论》，朱宁译，杭州：浙江人民出版
社 2003 年版，译者序第 13 页；艾喜荣：《话语操控与安全化：一个理论分析框架》，载《国际安
全研究》2017 年第 3 期，第 57-78 页。
· 147 ·