环球首页 国内·国际·言论 | 经济·财富·科技 | 社会·文化·生活·其他 | 专栏 | 过刊检索 | 关于我们 | 环球广告
AI时代的战争场景
  新华网 ( 2018-07-03 06:47:05 ) 来源: 《环球》杂志
 

  当前,人工智能的军事应用浪潮已不可避免,因此无论是应对技术还是伦理的挑战,都应坚持探索与发展人工智能技术,加强人工智能的技术预测与评估,在充分试验与分析的基础上逐步推进人工智能技术的军事应用。

文/石海明 金宁

  假如人工智能被人类设计成战争的武器,那么人间的最后一场战争会不会发生在人类和人工智能之间?就像电影《黑客帝国》中的情节:人类最终陷入了一场对抗人工智能的旷日持久的战争,由于不敌机器人,人类将电磁乌云布满整片天空,试图切断机器人的能源。然而,可怕的事情发生了,人工智能将人类囚禁起来,当作它们的“生物电池”。

  在人工智能迅猛发展的背景下,科幻电影中的人机大战、超级战士等奇异诡谲的情节与场景越来越趋向现实,人工智能的发展与应用正在逐步改写现代战争的进化轨迹。当人工智能用于战争,是否能更智能地控制战争,还是会“养虎为患”,将人类推向更恐怖的战争深渊?

AI催生军事智能化

  人工智能对现代战争的影响主要体现在以下几个方面:

  首先,设计战争。可以说,设计算法就是设计战争。现代战争不仅涉及多源信息的采集和融合处理问题,更涉及有关作战任务规划的多层算法问题,因此对数据处理能力提出了巨大挑战。而算法的实质在于群体智能,是类人机混合智能,相对于个体智能,它具有强集成性、大吸蓄性、高靶向性及易升级性。好的算法与优质问题、复杂场景及实践迭代直接相关,能够承载实战的庞大数据量。作战双方通过利用算法,得以模拟和预演实战,从而在多次实验中调整战法策略,将战争转变为经过设计的实验成品。

  当前,美军已正式提出“算法战”概念,并组建“算法战跨功能小组”,以推动人工智能、大数据及机器学习等“战争算法”关键技术的研究。针对算法的探索,将是各国争相竞逐的重要领域,也是打开现代战争新局面的关键所在。

  其次,辅助决策。以往战争中指挥员的决策,一方面来源于情报、侦察、监视等手段,另一方面受指挥员自身的经验、灵感、联想等主观因素影响。而人机一体的决策手段则将“人脑”与“外脑”有机结合,为指挥员的决策提供了新参照,能够弥补以往军事信息系统的不足,从而构建起功能强大的网络信息体系,提高军队的智能化评估和辅助决策能力。

  自上世纪50年代以来,美、俄等军事大国不断发展指挥控制自动化系统,企图增强信息优势和决策优势,如美军研发出指挥、控制、通信、计算机、情报与侦察监视系统(C4ISR),推进“网络中心战”概念建设并建立针对网络入侵的智能诊断信息系统。未来,人工智能技术的运用将为战争决策进一步赋能。

  第三,战争控局。古往今来,战争一直是人类的噩梦,造成巨大杀伤的武器成为了笼罩在人类上方的无形乌云,实现战争在时间、规模、目标与结局等方面的可控是人类在战争中长久追求的目标。除运用条约、协议等政治手段之外,以往战争中的双方难以真正实现战争可控,比如二战初期德国利用“闪电战”策略,但后来的战争却演变成了旷日持久的消耗战。另外,核生化武器造成的超乎预期的灾难性后果,也显示出在传统技术基础上实现战争可控的难度。

  人工智能技术有利于加强战略筹划,实现“知彼知己”的战略态势,提升作战模拟推演的有效性,战斗双方的战争设计与实验有益于控制战争。另一方面,人工智能促进武器装备创新,智能化高技术武器装备减少了非必要杀伤,客观上为可控性战争提供了物质技术条件。

走向失控的风险

  人工智能技术对撬动军事变革的作用不容小觑,但与此同时,战争中的技术、伦理、道德等一系列风险与挑战也逐步显现。

  不少科幻电影已对人工智能的威胁展开了讨论。电影《机械公敌》中原本以保护人类为使命的机器人出现集体失序,对人类展开了残暴攻击;《西部世界》中机器人的内部系统不断进化,最终反叛并伤害人类。由于目前人工智能技术的发展局限,人工智能的指挥系统容易在执行复杂程序的情境中失序,比如美军在伊拉克战场上的军事机器人失控事件。

  在人机协同作战方式中,过度依赖人工智能无疑增强了指挥系统失控的风险性,这就如同把枪交给了机器人,而当机器人不听从人类指挥时,枪口对准的将可能是战争中的任何一方。因此人工智能带来的人机结合作战方式必须将人置于主体地位,保证人类指挥员对系统的控制权。与此同时,建立应急预警机制与打造意外发生时的后台程序也极为必要。

  早在1942年,科幻作家阿西莫夫就提出了“机器人三大定律”,以规范机器人的行为并确保机器人对人类的附属地位。目前这三大定律已逐渐成为机器人的非正式伦理规范。然而,人工智能的伦理失范风险并没有因此减弱。

  在以往的战争法则中,人类之间的对抗如棋局一般保持相对平衡,战争双方互相控制且对彼此的伤亡负责,而一旦加入人工智能技术,人类的伤亡是否单纯由机器负责?对机器的损伤是否需要人类负责?人类又能如何避免人工智能成为无尺度暴力的工具?由此可见,人工智能带来的伦理挑战不只是单纯的伦理法则可以解决的,更需要人类对人工智能本质的清醒深刻认识以及对人机关系的精准定位。

  另外,人工智能应用于战争始终存在走向暴力失控的风险,智能化武器是造成安全威胁的主要来源。2017年,包括特斯拉公司首席执行官埃隆·马斯克和谷歌人工智能公司联合创始人穆斯塔法·苏莱曼在内的116名世界领先机器人和人工智能公司的领导人联名发布了一封公开信,呼吁禁止发展致命性自动化武器,并阻止高科技军备竞赛。

  人工智能与自动化武器结合的产物主要是全自动武器系统,这意味着人工智能的加入使得战争的杀伤难度显著降低,以往战场上的战马、钢盔、刀剑、枪弹也许都不再需要,指挥官可能只需一个按钮、一句指令就能达到理想的杀伤目的。在这种情况下,全自动武器一旦投入使用,战争的杀伤效率将超乎以往,武装冲突迅速升级并扩大的可能性将难以预计。

应对策略

  当前,人工智能的军事应用浪潮已不可避免,因此无论是应对技术还是伦理的挑战,都应坚持探索与发展人工智能技术,加强人工智能的技术预测与评估,在充分试验与分析的基础上逐步推进人工智能技术的军事应用。

  面对人工智能的风险与挑战,应当坚持三位一体的应对策略。

  首先,抢占智能科技高地。当前,人工智能已成为各大国竞相争夺的科技高地,主要发达国家纷纷将人工智能提升到国家战略高度加以发展。美军已将智能化无人系统作为“第三次抵消战略”的颠覆性技术领域给予重点投资。美国空军首席科学家办公室颁布的面向2035年的《无人系统地平线》技术评估和预测报告,认为未来各类无人系统与作战平台的自动化、自主性和远程遥控性能将随着技术进步不断取得突破。

  未来,随着超大规模计算、量子计算、云计算、大数据等技术的进步,人工智能的信息处理与控制技术将获得极大发展,在现代战争中所占的技术比重将显著增加。在这样的大背景下,唯有跟上智能科技发展步伐,及时制定人工智能发展规划与战略,见之于未萌,识之于未发,才能把握战争形态变化趋势,洞悉战争形态演变规律,实现克敌制胜。

  其次,探索战争伦理规约。近年来,国际人工智能界日益重视人工智能中的伦理与法律问题,并推动相关技术标准及社会规范的研讨和制定,如IEEE全球人工智能与伦理倡议、阿西洛马人工智能23条伦理原则,中国的《新一代人工智能发展规划》也专门提出人工智能伦理与法律的“三步走”规划。在完善人工智能战争伦理规范的过程中,应确保人类对智能化武器的控制权,将人机关系纳入战争伦理的讨论维度之中,针对人工智能使用的特殊领域与战场情境建立独立的伦理评价体系,防范人类战争伦理与人工智能参与后的战争伦理相混杂,将技术、伦理与法律等控制手段配合使用、高度融合。

  最后,加强国际合作对话。美国生命未来研究所在2015年人工智能国际会议上提交的一份信件指出,“如果主要军事力量运用了人工智能,那么全球军事竞赛将不可避免,而最终的结果就是,人工智能将成为下一个卡拉什尼科夫冲锋枪。美国运用人工智能则必然招致报复和一场人工智能大战。”该信得到了17000多个签名和2万多个附议签名。

  值得一提的是,人工智能风险的承受者不再只是单一国家,而是整个国际社会。无论是发展抑或遏制人工智能技术在现代战争中的应用,国际间的合作对话都必不可少。各国应加强人工智能技术与伦理层面的交流与沟通,建立起长期有效的对话机制,根据现有国际准则推进人工智能相关研究,共同应对人工智能的风险与挑战。

  (石海明系国防大学教员)

来源:2018年6月27日出版的《环球》杂志 第13期

《环球》杂志授权使用,其他媒体如需转载,请与本刊联系

本期更多文章敬请关注《环球》杂志微博、微信客户端:“环球杂志”

 请注意:



·遵守中华人民共和国有关法律、法规,尊重网上道德,承担一切因您的行为而直接或间接引起的法律责任。
·新华网拥有管理笔名和留言的一切权利。
·您在新华网留言板发表的言论,新华网有权在网站内转载或引用。
·新华网新闻留言板管理人员有权保留或删除其管辖留言中的任意内容。
·如您对管理有意见请向留言板管理员反映。

发表评论: 用户名 密码 匿名

 查看评论
放大字体
缩小字体
打印本稿
查看评论
推荐给朋友:
  相关新闻:
新华网版权与免责声明:

 
凡本网注明"稿件来源:新华网"的所有文字、图片和音视频稿件,版权均属新华社和新华网所有,任何媒体、网站或个人未经本网协议授权不得转载、链接、转贴或以其他方式复制发表。已经本网协议授权的媒体、网站,在下载使用时必须注明"稿件来源:新华网",违者本网将依法追究责任。
本网未注明"稿件来源:新华网"的文/图等稿件均为转载稿,本网转载出于传递更多信息之目的,并不意味着赞同其观点或证实其内容的真实性。如其他媒体、网站或个人从本网下载使用,必须保留本网注明的"稿件来源",并自负版权等法律责任。如擅自篡改为"稿件来源:新华网",本网将依法追究责任。如对稿件内容有疑议,请及时与我们联系。
如本网转载稿涉及版权等问题,请作者在两周内速来电或来函与新华网联系。

订阅本刊
本刊通用网址:环球杂志
  • 如果您对《环球》杂志的稿件有任何意见及建议请与我们联系。
  • 编辑部电话:
    010-63077031
  • E-mail:
    globe1980@vip.sina.com
  • 社址:北京市京原路8号新华社第二工作区
  • 邮政编码:100040
  • 对外合作:
    010-63077015
  • 传真:010-63073516
  • 总 编 辑:姬斌(兼)
  • 执行总编辑:金风
  • 副总编辑:聂晓阳
                 李晓明
                 刘新宇
                 刘 洪
  • 《环球》杂志
    新华通讯社主管
    瞭望周刊社主办
    环球杂志社编辑出版
    ·全彩半月刊
    ·出版日期:每月1日/16日
    ·国内统一刊号:CN11-1273/D
    ·邮发代号:2-511
    ·国外邮发代号:SM341
    ·国内订阅:
    全国各地邮局均可订阅 本刊随时办理邮购
    ·全年订阅价:192.00元
    ·国内零售:
    全国各大中城市报刊摊点/地铁/机场/书店等均有销售
    ·零售价:8.00元
    ·国外总发行:
    中国国际图书贸易总公司(北京399信箱)
    ·海外定价:US $6.00元 HK $25.00