环球首页 国内·国际·言论 | 经济·财富·科技 | 社会·文化·生活·其他 | 专栏 | 过刊检索 | 关于我们 | 环球广告
五角大楼对战“深度伪造”
  新华网 ( 2019-10-17 07:01:51 ) 来源: 《环球》杂志
 

    “政客没有改变这种状况的动机,并且存在利益冲突,因为这些分发假材料的平台会帮助他们赢得大选。”

宁柯

  “Fake news(假新闻)”在美国总统特朗普口头禅式的念叨下,成了网络热词。而近期一款名为ZAO的手机应用程序,让人们对“Fake”一词有了更多认识。

  ZAO是一款人工智能(AI)换脸手机应用程序。它的使用门槛很低,用户只需要在ZAO里上传一张自拍照,就能把自己的脸“嫁接”到别人的身体上。因为好玩又容易上手,迅速风靡。然而,由于相关用户隐私协议不规范,存在数据泄露风险等网络安全问题,推出这款应用程序的公司已广受质疑。

  ZAO之所以能够轻松实现“改头换面”,得益于DeepFake等GAN(生成对抗网络)工具。如果把这种技术用于制作假视频、假新闻,然后再运用到信息战中,后果将会怎样?

  在“新型信息战”的焦虑意识下,有关机构正通过研发新型智能工具应对相关问题,美国五角大楼就是其中之一。

DeepFake是什么

  DeepFake直译过来就是深度伪造,通常用于伪造视频、音频。该技术可通过神经网络或机器学习,将一个人的脸合成到另一个人身上,同时保持脸部肌肉运动和谐,使口型和声音匹配,从而完成“变脸”。

  DeepFake的工作机制类似各语言间的互相翻译。使用时,首先用一种被称为深层神经网络的机器学习系统来检查一个人的面部运动,再合成目标人物的脸,并让后者做出类似动作。

  在生成逼真的视频前,这个深层神经网络需要大量目标任务图像数据。图像的数量和多元性决定了网络的学习效果,数据越多,模拟效果就越逼真。这种移花接木技术让未经训练过的用户难辨真假,2017年底就曾引发美国社会的广泛讨论。

  ZAO的一夜爆红,让人们意识到DeepFake这种原来“高高在上”的技术,使用门槛如今已经低到可怕。

  虽然目前基于DeepFake等制作的音视频材料大多是出于娱乐或艺术目的,但美国国防部认为,这种深度伪造技术可能会被运用到信息战中,并将造成难以预测的后果。美国2020年总统大选在即,有关部门很担心该技术可能会被运用到选前宣传战中,从而对选举结果产生影响。

  设想一下这种假视频的使用场景。比如,当人们在一则貌似“权威新闻平台”的视频中,看到某位著名主持人说“天文学家表示,一颗不知名的小行星即将于27小时后撞击地球”时,会发生什么?人们将不再上班、上学,而是涌上街头疯狂抢购食物、汽油、药品、饮用水,会提前到防空洞里去抢占位置,混乱可想而知。

  尽管电视台和相关政府部门会在第一时间澄清这是假新闻,但是对于广大不明真相的群众而言,这段假视频所制造的社会恐慌后果已经形成了。再及时的补救,都是滞后的。无疑,这则假新闻就是一枚“心理原子弹”。

DARPA计划

  正是出于这种担心,美国决定研发一种识别系统“SemaFor”,用以判断哪些信息是运用DeepFake等技术制造的“假货”,从而了解并防御,或识别并阻止敌方的假情报活动攻击。据美国彭博社报道,领导这一前瞻性项目的是美国国防高级研究计划局(DARPA)。

  据DARPA官网介绍,准备开发的SemaFor项目以“语义取证”和“媒体取证”技术为基础。其目标是开发一套语义分析算法,其中主要包括三种典型算法:语义检测算法将判断媒体信息是自动生成的还是经过人为修改的;归因算法将推断媒体信息是否来自特定的组织或个人;特征化算法将识别媒体信息是否出于恶意目的。

  引入这样一套算法,将使造假者和传播者的处境变得非常复杂,因为他们将被迫跟踪每一个细节,撒一个谎就必须用无数个谎来圆,如此,就很容易露出马脚。

  DARPA称,最初的研究对象是一般的新闻和社交网络,然后再分析难度较大的材料,预计四年完工。

  观察人士注意到一个细节,负责该项目的DARPA隶属于美国国防部,并非负责规范媒体行为的美国联邦通信委员会。有专家认为,五角大楼对此类研究表现出浓厚兴趣,是为了能够在信息领域占据主导地位,并利用这些工具进行攻击。

  俄罗斯分析人士安德烈·科什金指出,这套算法“极有可能将是一个攻击系统,而非防御系统”。“五角大楼对该项目划拨的预算数额令人印象深刻。可见他们认为有必要牢固地遏制信息空间,并在该领域发展其军事优势。”

美国的信息战焦虑

  事实上,美国军方早已对此趋势表达过关切。就在有关语义取证项目的信息出现前不久,美国陆军训练和条令司令部负责人保罗·芬克将军发表声明称,美国陆军准备在信息领域争得统治地位。美国陆军网络司令部负责人斯蒂芬·福格蒂中将也表达了这一立场。他在一次会议上说,美国陆军网络司令部将改名,并重新调整方向,发动同样使用假新闻的信息战。

  “我们需要具备攻击性和防御性的自主能力。事实上,我们能够实时捕捉在互联网上发布的有误导性质且有影响力的内容,并迅速以其人之道还治其人之身。”斯蒂芬·福格蒂说。

  安德烈·科什金认为,美国国防部在保护安全的大旗下,预计将在全球范围内发起新一轮信息战,俄罗斯将被美国军方视为信息领域的对手之一。

  另一位俄罗斯分析人士亚历山大·阿萨福夫说,语义取证项目作为一种攻击性信息武器,可自动对潜在对手的信息基础设施进行攻击。“很明显,信息攻击可以更有效地影响其他国家的内部事务。我认为,这些系统在很大程度上已经被创建、设计和使用。”

  毫无疑问,信息战将成为未来战争的一部分,它不仅可以用于战时,更可以用于和平时期。一些美国专家认为,四年的研发时间太长了,他们希望这一技术能在2020年11月举行的美国总统选举期间就派上用场。

  “实施时间表太慢,我们需要与公众合作,以提高信息素养,并通过必要的立法。但政客没有改变这种状况的动机,并且存在利益冲突,因为这些分发假材料的平台会帮助他们赢得大选。”彭博社引用纽约雪城大学通信学教授詹妮弗·格拉吉尔的话说。

来源:2019年10月16日出版的《环球》杂志 第21期

《环球》杂志授权使用,其他媒体如需转载,请与本刊联系

本期更多文章敬请关注《环球》杂志微博、微信客户端:“环球杂志”

 请注意:



·遵守中华人民共和国有关法律、法规,尊重网上道德,承担一切因您的行为而直接或间接引起的法律责任。
·新华网拥有管理笔名和留言的一切权利。
·您在新华网留言板发表的言论,新华网有权在网站内转载或引用。
·新华网新闻留言板管理人员有权保留或删除其管辖留言中的任意内容。
·如您对管理有意见请向留言板管理员反映。

发表评论: 用户名 密码 匿名

 查看评论
放大字体
缩小字体
打印本稿
查看评论
推荐给朋友:
  相关新闻:
新华网版权与免责声明:

 
凡本网注明"稿件来源:新华网"的所有文字、图片和音视频稿件,版权均属新华社和新华网所有,任何媒体、网站或个人未经本网协议授权不得转载、链接、转贴或以其他方式复制发表。已经本网协议授权的媒体、网站,在下载使用时必须注明"稿件来源:新华网",违者本网将依法追究责任。
本网未注明"稿件来源:新华网"的文/图等稿件均为转载稿,本网转载出于传递更多信息之目的,并不意味着赞同其观点或证实其内容的真实性。如其他媒体、网站或个人从本网下载使用,必须保留本网注明的"稿件来源",并自负版权等法律责任。如擅自篡改为"稿件来源:新华网",本网将依法追究责任。如对稿件内容有疑议,请及时与我们联系。
如本网转载稿涉及版权等问题,请作者在两周内速来电或来函与新华网联系。

订阅本刊
本刊通用网址:环球杂志
  • 如果您对《环球》杂志的稿件有任何意见及建议请与我们联系。
  • 编辑部电话:
    010-63077031
  • E-mail:
    globe1980@vip.sina.com
  • 社址:北京市京原路8号新华社第二工作区
  • 邮政编码:100040
  • 对外合作:
    010-63077015
  • 传真:010-63073516
  • 总 编 辑:冯瑛冰
  • 执行总编辑:卞卓丹
  • 《环球》杂志
    新华通讯社主管
    瞭望周刊社主办
    环球杂志社编辑出版
    ·全彩半月刊
    ·出版日期:每月1日/16日
    ·国内统一刊号:CN11-1273/D
    ·邮发代号:2-511
    ·国外邮发代号:SM341
    ·国内订阅:
    全国各地邮局均可订阅 本刊随时办理邮购
    ·全年订阅价:192.00元
    ·国内零售:
    全国各大中城市报刊摊点/地铁/机场/书店等均有销售
    ·零售价:8.00元
    ·国外总发行:
    中国国际图书贸易总公司(北京399信箱)
    ·海外定价:US $6.00元 HK $25.00