参考消息网7月16日报道 世界报业辛迪加网站6月29日刊登题为《趁早筑牢人工智能安全防线》的文章，作者是联合国教科文组织前助理总干事加布里拉·拉莫斯和斯洛文尼亚卢布尔雅那大学副教授埃米利娅·斯托伊梅诺娃·迪，内容编译如下：

  2022年11月，能力空前强大的大语言模型聊天生成预训练转换器（ChatGPT）横空出世，在全球范围内引发赞美与恐慌。其他科技企业争相开发同类产品，与此同时，约书亚·本乔、杰弗里·欣顿等人工智能先驱纷纷发出警告，称这项技术可能给人类带来“灭顶之灾”。

  但最令人担忧的，当属今年4月美国Anthropic公司“神话”模型的问世。该模型能够发现金融系统、支付网络以及其他关键基础设施的安全漏洞，标志着人工智能模型的能力发生质的飞跃。它让人工智能向“超级智能”更进一步：自主学习功能已触手可及，一旦它们具备这些能力，人类的控制能力将变得有限。在政府没有发布管制令的情况下，该公司主动决定仅向有限群体分享该模型，这充分暴露出全球人工智能治理存在巨大空白。

  放任发展的后果不堪设想。美国国家安全局曾开发过一款名为“永恒之蓝”的软件漏洞利用工具。2017年，该工具代码被泄露，随后，黑客利用它发动病毒攻击。英国国民保健署被迫取消近7000次诊疗预约，丹麦马士基航运集团也遭受约100亿美元经济损失。一次漏洞泄露就引发如此严重的连锁灾难，已挖掘出上万处漏洞的“神话”模型一旦落入不法分子手中，造成的危害将难以估量。

  各国政府在这些方面的应对措施严重不足。当然，国际组织已出台多项规范，引导人工智能的合理使用。例如，联合国教科文组织的《人工智能伦理问题建议书》、欧洲委员会的《人工智能框架公约》、经济合作与发展组织的《人工智能原则》，以及联合国的《全球数字契约》。我们也曾参与上述文件的起草工作，这些文件都明确了一点：脱离人权与尊严的技术创新毫无价值。

  “神话”模型的问世，暴露了本届美国政府的政策前后割裂、反复无常。美国商务部在缺乏充分证据和未经协商的情况下，宣布对Anthropic的最新模型实施出口管制。美国政府称此举旨在维护国家安全，但这一做法不仅缺少民主监督、疏远国际合作伙伴，还提高了开源人工智能模型的吸引力。此外，美国政府也没有解释为何只对Anthropic的模型实施管制，而开放人工智能研究中心（OpenAI）的同类产品却不受限制。两家企业目前均在筹备上市，此举难免引人质疑。

  这一系列事件暴露出的最大问题是，政策制定者缺乏长远眼光。每次技术变革带来冲击后，他们才仓促出台应对措施，从未提前布局，并防范潜在风险。然而，前沿大模型的自主学习能力，意味着技术突破不会循序渐进，而是会突然到来，各种问题集中爆发，留给人类应对的时间将会更少。现行行业自发的规范、企业自主评估模式，这些完全不足以应对即将到来的技术变革。

  如今的地缘环境与冷战时期截然不同，但各国政策制定者必须从一轮强过一轮的人工智能技术突破中吸取教训。人工智能模型可能重塑劳动力市场、颠覆医疗与教育体系，为确保这些技术发展符合社会公共价值，政府必须推动民主讨论，建立有意义的安全护栏。否则，人类终将迎来灾难。（编译/王栋栋）