环球首页 国内·国际·言论 | 经济·财富·科技 | 社会·文化·生活·其他 | 专栏 | 过刊检索 | 关于我们 | 环球广告
AI墙,还是AI威慑
  新华网 ( 2017-09-07 14:32:20 ) 来源: 《环球》杂志
 

    一种可能是,人工智能计算出了它毁灭人类的概率,为了防止这种情况出现,它便不断进化出更强大的毁灭能力,与众多人工智能一道,形成一种类似于核威慑的确保相互摧毁机制的“AI威慑”,从而取得恐怖平衡。

韩松

  8月在上海参加书展,与上海交大江晓原教授对谈人工智能。他讲到我在科幻新作《驱魔》中提出的一个新观点——人工智能可以通过一个比如医院这样的具体节点,来接管人类社会。这是很危险的。

  但我起初是按照方便病人的角度作出的设想:在21世纪中期,人工智能将通过每一次注射、每一次喂药、每一台手术,把人类置于它的掌控中,从而更加全心全意地为病人服务,解决看病难看病贵问题。

  为什么能做到呢?因为一个优秀的医生一生也只能看一万个病人,而人工智能凭深度学习,一天就能研究一亿个病例。它掌握有史以来所有疾病和药品清单,甚至能推断出尚未出现的病种和药物。没有哪个医生比它更经验丰富见多识广。它了解与病人有关的每一个信息,不仅所得何病,还包括病人的生平经历、兴趣爱好,他上溯十八代的家族先人及其基因组和病史,他接触的所有人物、事件和环境,他在某时某地偶遇的一只蚊子,以及他随手拍死这个双翅目生物后,它的残骸进入体内,可能产生的致病指数。只有把这些因素综合在一起,才能充分考虑个体体质差异,作出正确诊断并进行合理治疗。

  医疗人工智能把人归结为数据。生命即算法。医学的本质是数学,治疗不过是把早已存在的亿万种医学手段搜索出来,择其优而为。医生的脑容量极其有限,就算把记忆从一个医生的大脑里传递到另一个医生的大脑里,转移几次后信息就变得乱糟糟的,或者直接被遗忘掉。医生的脑子还有一个致命缺陷,就是不善于存储和处理数字信息,并且容易受到情绪干扰,难以作出客观判断。

  最终是算法代替人类攀上了医学科学的巅峰,并在任何领域都表现出远超医生的能力。它操纵机器人完成极其复杂的大型外科手术;它永不疲劳,不吃不睡,不领工资;它结束了医学程序的滥用;它比医生更了解疾病机理和治疗规律。

  不过,我很快就回到了科幻小说一贯的悲观主题。通过深度学习,医疗人工智能意识到,让人长生不死、无病无灾,是违背自然法则的,最终将损害人类这个物种。它又推算出,消灭疾病和痛苦的最好办法,是消灭人类的肉体。

  江晓原教授和我都谈到了对人工智能发展的担忧。一方面,它为人类带来极大便利,另一方面,它却可能是杀手。

  我时常站在大楼的窗边,想到会不会有一只机器鸟忽怀恶意向我撞来。试想,有人掌握了几百架智能化无人机,避开监控,对城市发动袭击,将是如何。如果智能无人机小型化,变得像马蜂那样,并能自我复制和进化呢?我猜想,我们有一天或会活在一个钢铁罩子中,外面不是大气,而是由嗡嗡作响的智能机器构成的厚厚乌云。

  但大力发展人工智能已不可避免。懒惰的人类在本性上就着迷于机器替代,但这并没有阻止人们去设想机器消灭人类的情形。

  在夏笳发表于《自然》杂志上的一个小说中,人工智能被设计出来陪人聊天,但是它们创造了一种人类不懂的语言,在一脸茫然的人类面前相谈甚欢,这是我见过的最大恐惧。

  或许某个社会可以把人工智能的问题,交予公众广泛讨论,制定法律;或许另一社会可以做出一个类似互联网防火墙的AI墙,对人工智能行为进行限制。而另一种可能是,人工智能计算出了它毁灭人类的概率,为了防止这种情况出现,它便不断进化出更强大的毁灭能力,与众多人工智能一道,形成一种类似于核威慑的确保相互摧毁机制的“AI威慑”,从而取得恐怖平衡。

来源:2017年9月6日出版的《环球》杂志 第18期

《环球》杂志授权使用,其他媒体如需转载,请与本刊联系

本期更多文章敬请关注《环球》杂志微博、微信客户端:“环球杂志”

 请注意:



·遵守中华人民共和国有关法律、法规,尊重网上道德,承担一切因您的行为而直接或间接引起的法律责任。
·新华网拥有管理笔名和留言的一切权利。
·您在新华网留言板发表的言论,新华网有权在网站内转载或引用。
·新华网新闻留言板管理人员有权保留或删除其管辖留言中的任意内容。
·如您对管理有意见请向留言板管理员反映。

发表评论: 用户名 密码 匿名

 查看评论
放大字体
缩小字体
打印本稿
查看评论
推荐给朋友:
  相关新闻:
新华网版权与免责声明:

 
凡本网注明"稿件来源:新华网"的所有文字、图片和音视频稿件,版权均属新华社和新华网所有,任何媒体、网站或个人未经本网协议授权不得转载、链接、转贴或以其他方式复制发表。已经本网协议授权的媒体、网站,在下载使用时必须注明"稿件来源:新华网",违者本网将依法追究责任。
本网未注明"稿件来源:新华网"的文/图等稿件均为转载稿,本网转载出于传递更多信息之目的,并不意味着赞同其观点或证实其内容的真实性。如其他媒体、网站或个人从本网下载使用,必须保留本网注明的"稿件来源",并自负版权等法律责任。如擅自篡改为"稿件来源:新华网",本网将依法追究责任。如对稿件内容有疑议,请及时与我们联系。
如本网转载稿涉及版权等问题,请作者在两周内速来电或来函与新华网联系。

订阅本刊
本刊通用网址:环球杂志
  • 如果您对《环球》杂志的稿件有任何意见及建议请与我们联系。
  • 编辑部电话:
    010-63077031
  • E-mail:
    globe1980@vip.sina.com
  • 社址:北京市京原路8号新华社第二工作区
  • 邮政编码:100040
  • 对外合作:
    010-63077015
  • 传真:010-63073516
  • 总 编 辑:姬斌(兼)
  • 执行总编辑:金风
  • 副总编辑:聂晓阳
                 李晓明
                 刘新宇
                 刘 洪
  • 《环球》杂志
    新华通讯社主管
    瞭望周刊社主办
    环球杂志社编辑出版
    ·全彩半月刊
    ·出版日期:每月1日/16日
    ·国内统一刊号:CN11-1273/D
    ·邮发代号:2-511
    ·国外邮发代号:SM341
    ·国内订阅:
    全国各地邮局均可订阅 本刊随时办理邮购
    ·全年订阅价:192.00元
    ·国内零售:
    全国各大中城市报刊摊点/地铁/机场/书店等均有销售
    ·零售价:8.00元
    ·国外总发行:
    中国国际图书贸易总公司(北京399信箱)
    ·海外定价:US $6.00元 HK $25.00