Aidan 朱启超 国防科技大学国家安全与军事战略研究所所长
进入21世纪，信息技术、新材料技术、新能源技术、先进制造技术等领域的发展突破，驱动着人工智能的第三次浪潮席卷全球，塑造着科技革命、产业革命和军事革命的崭新面貌，引起许多国家的高度重视。近年来，人们在津津乐道人工智能带来无限发展机遇的同时，政界领袖、学界大咖、科技大佬等也纷纷表达了对人工智能可能带来安全挑战的担忧。比如，俄总统普京认为人工智能是整个人类的未来，它将为人类提供巨大机遇，但同时也存在某些无法预测的威胁。霍金生前曾呼吁人类需要控制以人工智能为代表的新兴科技，以防止它们在未来可能对人类生存带来毁灭性威胁。马斯克声称人工智能是关系人类文明存亡的最大威胁，而马云则在一次公开演讲中认为，随着人工智能逐渐消灭人类工作岗位，可能引爆第三次世界大战。
这些担忧到底是为了吸引眼球而危言耸听，还是心怀悲悯而杞人忧天？到底应如何客观看待人工智能可能带来的安全挑战？笔者认为，人们对于人工智能的安全担忧是由于人工智能本身的技术复杂性、科幻色彩和应用实践的初始性造成的，是一定阶段人们对人工智能粗浅认知的折射反映。
人工智能本是个外来词，来自英语artificial intelligence的翻译。狭义的人工智能是指机器人及其相关技术，广义的人工智能则是指能够模拟、延伸、替代人的行为的相关技术。这种定义方式其实为我们理解人工智能带来了技术上的难度。从狭义来看，机器人相关技术就包括了机器人设计制造、模式识别、交流学习等很多方面。从广义来看，任何只要是能够模拟、延伸、替代人的行为的相关技术都可认为是人工智能技术，比如模拟人的思维推理、人的五感交互、人的行为模式等技术。因此，无论是狭义还是广义都可以看出，人工智能不是一项单一的技术，而是多项技术构成的复杂体系。这就为我们理解人工智能及其可能引发的安全问题带来的困难，甚至由于对于技术的不了解造成了对于人工智能想象中的安全担忧或认知黑洞。
人工智能的技术特性决定了人工智能具有鲜明的科幻色彩。《太空漫游》《异形》《机械姬》《终结者》等与人工智能相关的科幻大片很多，给人们留下了深刻印象，也提供了丰富的想象空间。由于对于技术细节缺乏了解，对于未来的无限憧憬，对于未知世界的本能恐惧，导致人们对于人工智能及其可能产生的安全挑战有了更多的想象，甚至走向人工智能终将毁灭人类这种极端。
从1956年人工智能概念的提出，半个多世纪过去，人们迎来了人工智能发展的第三次浪潮。这一次浪潮最大的特点是人工智能引发科技革命、产业革命、军事革命的交织并进，激发了人工智能发展的强劲动力。但即便如此，人工智能无论是从科技创新本身，还是产业业态以及军事应用的实践，都还是处于一种远未成熟的初级阶段，很多科技本源问题、理论方法问题以及创新发展模式亟待取得突破。比如，人工智能相关脑科学研究仍有大片空白，人机共生的相关理论还未建立，人工智能产业生态还不完善，等等。
客观看待人工智能可能带来的安全挑战，是我们理解人工智能、发展人工智能、管控人工智能的前提。人工智能本身发展的上述特点，为人们理解人工智能带来了难度甚至障碍。客观看待人工智能可能带来的安全挑战，首先需要树立正确的思维理念。
一是要秉持科学的态度。人工智能带来的安全挑战既可能来自于技术不成熟，也有可能由于人为管理管控上的疏失，必须用科学的态度，进行实事求是的分析。一般来说，人工智能引发的安全问题可以分为三个层次：一是某行业某领域或某系统内安全操作规程管理方面的安全风险；二是国家安全层面对于政治、经济、金融、科技、国防等领域带来的安全挑战；三是由于人工智能技术的跨国使用引发的网络安全、太空安全、核安全、反恐行动乃至国际安全治理等方面的挑战。人工智能在不同层面带来的安全挑战具有不同的特点及应对要求，需给予区别对待，而不能一锅煮甚至张冠李戴。
二是要坚持发展的态度。总体上看，人工智能带来的安全挑战仍处于可控的范围，人们对人工智能未来发展的担忧，主要在于人工智能作为一项技术可能触发更多的安全问题。另一方面，人类作为这个星球上智力水面最高的灵长类生物，一旦人类发明的人工智能超越了人类自身，将不可避免地引发对未来的本能的恐慌。历史上，每一次工业革命或技术革命的到来初期，由于人们对于技术的认知与实践体验相对缺乏，都曾引发过一定程度的恐慌。
比如第一次工业革命初期作坊工人对于机器的抵制与破坏，第二次工业革命初期人们对于电力使用不当造成人员伤亡的恐慌。作为不断发展演进的人类文明的产物，需要我们用发展的眼光看待人工智能的正面作用和可能引发的安全挑战，既充分发挥人工智能的潜力造福人类，又能够未雨绸缪管控人工智能可能引发的安全危机。当人们越是能够客观看待人工智能带来的安全挑战，就越能够开辟人工智能安全科技与安全产业创新的蓝海。
三是要坚持合作的态度。人工智能技术与信息技术的发展紧密相关，尤其是移动宽带通信、大数据、云计算、物联网等领域的技术突破，将促进人工智能相关技术和产业的成熟。从技术特点看，人工智能与信息技术类似，都具有低成本、易扩散、难封控的特征，并且技术一旦成熟，市场的边际成本将大大降低，甚至被认为属于“零边际成本”的技术。这使得人工智能可能引发的安全问题也将具有易扩散、难封控的特点。比如，若监管缺失，一个黑客就有可能运用新的人工智能算法及入侵技术破坏一个国家的电网、公共交通指挥网络等的正常运转，引发大面积的灾难性后果，甚至殃及无辜。
从理论上说，社会信息化智能化水平越高，将会对于技术体系愈加依赖，而一旦原有的技术体系受到冲击，将产生新的不确定性和脆弱性。在信息技术、人工智能技术等大发展的时代，我们面临的安全挑战呈现出技术复杂性、体系脆弱性的双重特征。正因如此，必须坚持开放合作的态度，国家政府部门、社会行业领域及公民个体等应共同加强对人工智能的技术认知和实践体验，共同应对人工智能可能带来安全挑战，那些“各人自扫门前雪”独善其身的想法已与这个时代越来越脱节。
总之，对于人工智能新的发展浪潮，既不能只看到其利而盲目追捧，也不能因为其潜在的安全威胁而踟蹰不前。必须客观认识人工智能的发展应用，如果人们能够在未来的实践中不断避免对人工智能相关安全问题的误解、误判和误用，人类仍然能够掌控自己的命运。
