环球首页 国内·国际·言论 | 经济·财富·科技 | 社会·文化·生活·其他 | 专栏 | 过刊检索 | 关于我们 | 环球广告
警惕“算法操纵”
  新华网 ( 2018-07-03 06:47:05 ) 来源: 《环球》杂志
 

    算法和代码的设计都依赖编程人员的判断与选择,因此极容易被利益集团操纵。算法推荐的阅读内容容易使选民获得的政治信息更加片面,影响其政治情感的中立性,导致其选择很可能会被“无形操纵”,从而形成“算法操纵”。

文/高奇琦

  美国总统特朗普上台执政已有一年多时间,但与美国大选有关的各类传闻或“丑闻”仍不绝于耳。

  特别检察官罗伯特·米勒对13名俄罗斯人和3个俄罗斯实体涉嫌干扰2016年美国大选的起诉书提到,俄罗斯人利用假身份在社交媒体开设大量账户散播假新闻,仅在脸书上发布的消息就多达8万条,覆盖1.26亿美国人。

  有分析人士指出,要做到如此大范围的信息覆盖,仅凭人力恐难以完成,其情形可能是,AI账户伪装成普通用户出现在推特、脸书等社交平台上,通过程序设定散布片面的或错误的政治信息,从而达到诋毁政治对手、影响公众舆论的目的。据称,在2016年美国大选中,一些AI账户甚至曾潜入到主要竞争的支持者队伍中,影响选民的政治情绪。

  实际上,欧洲的选战、公投和公共舆情也曾受到AI干扰。

  在2015年英国脱欧公投前,支持脱欧的政治人物、时任英国独立党领导人奈杰尔·法拉奇就曾雇用剑桥分析公司(已申请破产)相助;2017年5月初,在法国总统大选的关键时点,现任法国总统马克龙竞选团队的大量内部电子邮件被泄露到推特和脸书上,其中包含了一些捏造的马克龙财务交易状况信息。

大数据安全

  大数据分析技术也被认为为特朗普胜选发挥了重要作用。

  多家美欧媒体报道,剑桥分析公司借由一款个性测试应用程序获取大约8700万脸书用户的个人信息,助力美国总统特朗普2016年竞选。

  据悉,借助通过“不恰当方式”获取的用户个人信息,剑桥分析公司帮助特朗普团队定位选民爱好、进行心理评测和数据分析,并在此基础上精准投放广告,为每个选民推送为其“量身定制”的信息,实现从多个角度“美化”特朗普、“丑化”其竞争对手的目的,比如故意向高收入人群传播“希拉里有意在上任之后调高对富人的税收”等观点。

  “大数据安全是全球的挑战,要站在历史和网络空间的维度来看待。”在2018中国国际大数据产业博览会上,中国国家密码管理局副局长徐汉良说,大数据安全事件危害巨大,不仅涉及大量公民隐私,而且能左右舆论导向,甚至影响政治进程。

“算法黑箱”

  在现实政治生活中,AI技术对欧美政治决策和选举实践的影响正在不断扩大,但目前AI技术还处于数据驱动的弱人工智能阶段,“几乎完全以统计学或盲模型的方式运行”,缺乏对结果的解释性。其对各国政治发展的影响还需密切观察。

  首先,AI技术存在“算法黑箱”的问题,即一般情况下,算法能被看到、理解的,只有输入和输出两个环节,其信息处理过程是一个无法看清的“黑箱”。算法黑箱的存在使人工智能在政治领域的行为缺乏有效解释力。图灵奖得主、贝叶斯网络之父朱迪亚·珀尔认为,纵使机器可以在不断学习之后得出相对优化的结果,但由于算法黑箱的存在,科学家也无法对其结果做出令人信服的解释。

  而政治是人的艺术,政治决策往往没有绝对的对与错,“对错”背后的依据通常是这个决策的解释能否被大部分人接受,而当前的人工智能恰恰缺乏这种能力。当前,人工智能尚处于初级阶段,其决策结果只是计算后在逻辑上的最优选择,而非最有利于人类现实世界的发展。以美苏冷战时期发生的古巴导弹危机为例,如果单纯按照算法的决策,后果可能不堪设想。

  其次,“算法黑箱”可能导致“算法操纵”,破坏选民的政治情感中立性。

  伴随着人工智能时代的到来,信息爆炸和信息堆积成为人们的普遍困扰之一。个性化的内容推荐越发受到青睐,而这种推荐的背后是算法在发挥作用。同时,信用评估、风险评估等各种评估信息越来越多,这使得人们的决策越来越受制于算法。

  而算法和代码的设计都依赖编程人员的判断与选择,因此极容易被利益集团操纵。算法推荐的阅读内容容易使选民获得的政治信息更加片面,影响其政治情感的中立性,导致其选择很可能会被“无形操纵”,从而形成“算法操纵”。

  “算法操纵”还存在加剧一种新的社会不平等的风险,即民众在数字信息领域的“贫富差距”不断拉大,进而演变为政治上的新霸权。美国著名未来学家阿尔文·托夫勒在其1990年出版的《权力的转移》一书中说,在人工智能时代,全球性大公司对信息的垄断,将削弱国家的政治聚合力和国家中心意识,最终可能导致少数“技术超人”和企业精英操控全球经济和政治,普通人不仅成为失业者,甚至沦为失权者。

  《终极算法》作者、人工智能领域学者、华盛顿大学教授佩德罗·多明戈斯认为,目前想要借助AI技术作出“合理合法”的政治决策,还有相当长的一段路要走。

技术前景仍可期

  虽然算法对政治领域的挑战显而易见,但简单地将失败的政治行为归咎于人工智能是武断的,因为技术本身是无害的,关键在人如何使用技术,政治上的失败大多与别有用心的利益集团或个人密切相关。因此,修正人们对AI技术的态度可能是规避算法风险的有效途径之一。

  眼下,人类正致力于创造人工智能大脑,推动机器人多维度学习,尤其是提高机器人的情感水平。当机器主体具有超强能力、自主性及情感时,人工智能的“工具论”将不攻自破。届时,人类对数据操纵的态度可能发生转变,尊重数据或将变成主流趋势,人工智能在政治领域的应用或将得到有效的规范。

  (作者系华东政法大学政治学研究院院长、教授)

来源:2018年6月27日出版的《环球》杂志 第13期

《环球》杂志授权使用,其他媒体如需转载,请与本刊联系

本期更多文章敬请关注《环球》杂志微博、微信客户端:“环球杂志”

 请注意:



·遵守中华人民共和国有关法律、法规,尊重网上道德,承担一切因您的行为而直接或间接引起的法律责任。
·新华网拥有管理笔名和留言的一切权利。
·您在新华网留言板发表的言论,新华网有权在网站内转载或引用。
·新华网新闻留言板管理人员有权保留或删除其管辖留言中的任意内容。
·如您对管理有意见请向留言板管理员反映。

发表评论: 用户名 密码 匿名

 查看评论
放大字体
缩小字体
打印本稿
查看评论
推荐给朋友:
  相关新闻:
新华网版权与免责声明:

 
凡本网注明"稿件来源:新华网"的所有文字、图片和音视频稿件,版权均属新华社和新华网所有,任何媒体、网站或个人未经本网协议授权不得转载、链接、转贴或以其他方式复制发表。已经本网协议授权的媒体、网站,在下载使用时必须注明"稿件来源:新华网",违者本网将依法追究责任。
本网未注明"稿件来源:新华网"的文/图等稿件均为转载稿,本网转载出于传递更多信息之目的,并不意味着赞同其观点或证实其内容的真实性。如其他媒体、网站或个人从本网下载使用,必须保留本网注明的"稿件来源",并自负版权等法律责任。如擅自篡改为"稿件来源:新华网",本网将依法追究责任。如对稿件内容有疑议,请及时与我们联系。
如本网转载稿涉及版权等问题,请作者在两周内速来电或来函与新华网联系。

订阅本刊
本刊通用网址:环球杂志
  • 如果您对《环球》杂志的稿件有任何意见及建议请与我们联系。
  • 编辑部电话:
    010-63077031
  • E-mail:
    globe1980@vip.sina.com
  • 社址:北京市京原路8号新华社第二工作区
  • 邮政编码:100040
  • 对外合作:
    010-63077015
  • 传真:010-63073516
  • 总 编 辑:姬斌(兼)
  • 执行总编辑:金风
  • 副总编辑:聂晓阳
                 李晓明
                 刘新宇
                 刘 洪
  • 《环球》杂志
    新华通讯社主管
    瞭望周刊社主办
    环球杂志社编辑出版
    ·全彩半月刊
    ·出版日期:每月1日/16日
    ·国内统一刊号:CN11-1273/D
    ·邮发代号:2-511
    ·国外邮发代号:SM341
    ·国内订阅:
    全国各地邮局均可订阅 本刊随时办理邮购
    ·全年订阅价:192.00元
    ·国内零售:
    全国各大中城市报刊摊点/地铁/机场/书店等均有销售
    ·零售价:8.00元
    ·国外总发行:
    中国国际图书贸易总公司(北京399信箱)
    ·海外定价:US $6.00元 HK $25.00