Page 128 - 国际安全研究2019年第5期

2019 年第 5 期

伴随着大数据的爆炸式增长、算力的显著提升和深度学习算法的进步，人工智
能在经历了两起两落的起伏后，迎来了第三次发展浪潮，正深刻影响着各国经济、
政治、军事、社会等各个领域。一方面，人工智能对产业变革和军事革命的潜力为

许多人所追捧，认为其将深刻改变人类社会图景，给人类带来更多福祉，为实现人
类的彻底解放提供了前所未有的机遇。未来学家雷·库兹韦尔（Ray Kurzweil）在
其著作《灵魂机器时代》和《奇点临近》中畅想了机器在未来超过人类智能并能帮

①
助人类实现永生的宏伟图景； 另一方面，对人工智能带来社会、安全、法律、伦
理问题以及对人类生存构成威胁的担忧之声也不绝于耳。著名科学家詹姆斯·巴内
特（James Barrat）在其《最后的发明：人工智能与人类的终结》一书中警示人工
②
智能对人类可能带来毁灭性影响。 史蒂芬·霍金（Stephen Hawking）也称，人
工智能是人类最好的发明或是最后的发明，人工智能的快速发展或将导致人类覆
③
亡。 人工智能军事化的风险不断显现，特斯拉创始人埃隆·马斯克（Elon Musk）
将发展通用人工智能比作“召唤恶魔”，提醒人们警惕人工智能对人类的潜在威胁，

④
并称各国竞相争夺人工智能发展优势可能导致第三次世界大战的发生。 除此之外，
⑤
一批知名科学家发表联名公开信，呼吁发展可靠的、对人类有益的人工智能。 在
此背景下，致命性自主武器系统（LAWS）的军备控制也逐渐进入国际政治和国际
安全讨论的视野中。

目前，国内外学界从战略稳定性、国际安全、军备控制等视角对基于人工智

① Ray Kurzweil, The Singularity is Near: When Humans Transcend Biology, New York: Viking
Adult, 2005; Ray Kurzweil, The Age of Spiritual Machines: When Computers Exceed Human
Intelligence, Viking Adult, 1999.
② James Barrat, Our Final Invention: Artificial Intelligence and the End of the Human Era,
Thomas Dunne Books, 2013. 表达这种类似担忧的典型文献还有很多，如：Martin Rees, Our Final
Century, Arrow Books Ltd, 2015; Matt Miller, “Artificial Intelligence, Our Final Invention?” The
Washington Post, December 18, 2013, https://www.washingtonpost.com/opinions/matt-miller-artificial-
intelligence-our-final-invention/2013/12/18/26ed6be8-67e6-11e3-8b5b-a77187b716a3_story.html?utm_
term=.1d290dc574b0。
③ Rory Cellan-Jones, “Stephen Hawking Warns Artificial Intelligence Could End Mankind,”
BBC, December 2, 2014, http://www.bbc.com/news/technology-30290540.
④ “Elon Musk Says AI Could Lead to Third World War,” The Guardian, September 4, 2017,
https://www.theguardian.com/technology/2017/sep/04/elon-musk-ai-third-world-war-vladimir-putin.
⑤ “An Open Letter: Research Priorities for Robust and Beneficial Artificial Intelligence,” Future
of Life Institute, https://futureoflife.org/ai-open-letter. 该公开信由科学家斯图亚特·拉塞尔（Stuart
Russel）起草，签署该公开信的科学家目前已经超过 80 人，包括物理学家霍金、牛津大学哲学
教授尼克·博斯特罗姆（Nick Bostrom）等知名人物。
· 109 ·