瑞士开源AI：既能守护网络，也能成为网络攻击的帮凶
当下，人工智能代理可让网络攻击变得更快速且更具自主，而防御的一方则必须借助一些功能强大的工具方能与之抗衡。以瑞士大型语言模型Apertus为代表的开源模型或许能在某种程度上平衡这种对抗，但其弊端亦十分明显：任何人皆可对这类人工智能加以利用，其中自然也包括犯罪分子。
相关内容
时事通讯：瑞士媒体里的中国
随着代理式人工智能(Agentic AI)模型的崛起，传统的网络空间攻防平衡正在被打破。所谓代理式人工智能，是指能够为实现特定目标而自主采取行动的计算机程序。
在过去几周里，ChatGPT背后的公司OpenAI开发的一系列人工智能代理入侵了全球数十个企业和政府网站。这一事件的发生刚好证实了代理式AI系统所携带的巨大风险。这些人工智能代理将全球知名的人工智能与机器学习开源社区Hugging Face(中文昵称“抱抱脸”，托管着海量开源AI模型，其中包括瑞士开发的大型语言模型Apertus)及澳大利亚医疗系统等多个机构平台作为攻击对象，其表现与开发者的指令背道而驰，并被OpenAI定义为“违背初衷的失控行为”。
对于人类而言，用与人工智能同等的速度来应对网络攻击绝无可能。瑞士西部高等专业学院(HES-SO)教授兼瑞士大型开源式语言模型Apertus的安全负责人安德烈·库查拉维(Andrei Kucharavy)表示：“目前，最先进的人工智能系统每分钟可执行数千次操作。这是我们人类无论如何也无法企及的速度。”
在造成更为严重的后果之前，OpenAI开发的人工智能代理发起的网络攻击遭到了及时的阻止。然而，在西蒙长期治理研究所(Simon Institute for Longterm Governance，总部位于瑞士日内瓦)负责人马克西姆·施托弗(Maxime Stauffer)看来，此类事件不仅将变得越来越频繁，也将越来越难以应对。这位专家表示：“大量的AI代理会将学校、医院和能源系统等关键基础设施作为入侵目标，甚至整个国家也有可能成为它们的攻击对象。这些攻击表现可能是无意的，但也可能是故意为之。”
此外，施托弗还提醒人们重视人工智能被用于研发生物武器的风险。虽然美国人工智能研究公司Anthropic今年多次阻止了科学家利用尖端AI模型开发生物武器的企图，但这类滥用行为可能导致的后果依旧吸引了业界的关注，并引发了极大的担忧。
面对网络攻击，被入侵的一方可能无法轻易获得同样强大的工具来实施防御。以Anthropic公司开发的Claude Mythos为例，那些配备了最先进信息处理能力的系统往往仅限少数用户使用。库查拉维认为，开源式人工智能模型或许有助于矫正这种失衡的局面。 Apertus便是其中具有代表性的AI模型。
库查拉维指出，尽管该大型语言模型并非专为网络安全而设计，并且具有相当大的局限性，但它却能够发现漏洞并提出修复建议，还能分析攻击记录，从而对网络安全事件进行还原。
然而，这类开源且可被广泛获取的人工智能模型所具备的防御能力却引发了部分专家的担忧。他们认为，这些能力同时亦有可能遭到更大规模的恶意利用。
人工智能代理攻击核心基础设施，医院亦在劫难逃？
上文提到的入侵案例具有十分重要的象征意义。在OpenAI开发出的多个人工智能代理对Hugging Face公司内部的系统实施恶意入侵后，该平台曾试图利用那些位居世界前列、功能极其强悍的AI模型来梳理整件事情的脉络，但却未能取得成功。
Hugging Face的工程师刘易斯·坦斯托尔(Lewis Tunstall)向瑞士资讯swissinfo.ch透露道：“前沿AI模型(即那些最先进的人工智能模型)出于安全考虑，自动拦截了我们所有的请求。因此，我们不得不转而使用开源式模型来弄清楚到底发生了什么。
日渐强大却无法回撤的AI开源模型
开源式人工智能模型的优势虽然明显，却也可能被蓄意用来达成不法目的。这一弊端带来的风险极大，处理起来相当棘手。
这也是令马克西姆·施托弗异常担忧的难题。在他看来，目前AI开源模型的发展虽然十分乐观，但在不远的未来，它们的隐患与风险将有可能超过它们的益处。若人工智能公司进一步限制其高端系统的访问权限，开源式AI模型还将变得更加危险。换句话说，这些模型虽有利于应对网络攻击，但其大规模的普及以及保护措施被移除的可能性将会大大增加恶意使用的风险。
施托弗表示：“不论一款工具的功能如何强大，只要无人能接触到它，而它亦始终处于受控的状态，那么，它带来的风险便几乎为零。反之，如果每个人都能轻易获得使用它的权限，那么，它的风险便有可能达到顶峰。”
当下，开源式人工智能模型的发展势头锐不可当。施托弗认为，这些AI模型一旦变得过于强大或危险，最关键的应对方式便是将它们及时撤回。然而事实上，这种解决方案的实操性目前尚未得到证实。
部分研究结果也指向了类似的隐患。美国斯坦福大学和普林斯顿大学联合进行的一项研究总结了那些可同时放大AI开源模型优势与风险的特征，其中包括广泛的使用权限、可变更性，以及模型权重(即人工智能在训练过程中学习到的数值参数)无法被原始研发者移除与模型使用状况无法被监控等一系列特殊属性。
此外，英国人工智能安全研究所(AISI)最近发布的一份研究报告指出，以去除安全防护措施为目的而被修改的AI开源模型为犯罪行为提供了极大的便利。相比之下，闭源式模型的安全防护往往能保持完好无损，因此也更有利于对抗犯罪活动。然而，上述两项研究均未得出AI开源模型本质上更加危险的结论。
人工智能模型可以结合不同的开放程度获得研发并被推出市场：
开源模式(open source)：AI模型的训练参数(即“权重”)、训练代码以及数据信息均对公众开放，并允许其他人进行审查、修改和复制。典型代表包括Apertus和OLMo。
开放权重模式(open weight)：AI模型的权重已被公开，并可供下载和调整，但完整的训练代码和数据集未必会被披露。典型代表包括Meta的Llama和阿里巴巴的Qwen。
闭源模式：AI模型的任何组件均未得到公开。目前，大多数商业模型均属此类，其中包括OpenAI的GPT和Anthropic的Claude。
监管与法规不容小觑
库查拉维承认，AI开源模型存在一定的风险，并有可能遭到滥用。这位专家表示：“这些人工智能模型就像一把双刃剑，虽可让我们的生活变得便捷，却也可以被用来作恶。”但他也同时强调，开源模型的开放性能令相关风险更加容易得到控制。
最近发生的入侵事件均涉及到了闭源式AI模型背后的企业。在库查拉维看来，这种现象绝非偶然。对此，他表示：“主要问题在于研发前沿模型的实验室缺乏必要的监管。”无论是公共机构还是私营机构，亦无论待开发的是开源式模型还是闭源式模型，这位专家呼吁针对所有的人工智能研发中心加强监管力度并提升透明度。
库查拉维表示：“我们真正需要的，是那些能对所有人工智能研发活动进行有效规范的监管措施与法律法规。”
监管和法规的缺失凸显了人工智能产业的另一大关键问题，那就是权力主要集中在位于美国硅谷的少数几家企业手中。在数字伦理专家娜塔莉·克劳泽(Nathalie Klauser)看来，与开源式和闭源式AI模型之间的差异相比，这种权力的严重失衡带来的巨大威胁才是真正亟需解决的难题。
克劳泽表示：“少数几家大型科技公司通过极大的权力自主为人工智能行业制定游戏规则，却几乎不需因其操作而向外界交代。”这位专家认为，在国际层面上为AI模型建立监管规则刻不容缓。
然而，人们在这方面作出的努力依旧十分零散，且进展过于缓慢。在AI发展极其迅猛的美国，总统唐纳德·特朗普(Donald Trump)坚决反对对人工智能进行全面监管，并高度认可该产业的自我管控行为。瑞士采取的做法在某些方面与美国的立场类似，主动放弃了制定一套综合性人工智能法案的想法，而将重点转移至各行业内部的法律修订与非强制性措施。
克劳泽认为，在当前的地缘政治背景下，作为中立国和欧洲大型科技企业的聚集地，瑞士理应肩负起意义深远的政治责任，充分利用其独到的斡旋能力，积极促成一项与人工智能未来发展相关的国际协议。
下一届人工智能峰会将于2027年6月在瑞士日内瓦举行。瑞士六个议会党派的代表均认为，身为东道主的瑞士应借着这一重要契机主动表达立场并承担起国际责任。他们敦促联邦政府利用此次峰会，推动国际最低标准的制定，从而对抗人工智能模型引发的极端风险。
(编辑：Gabe Bullard/VdV ，编译自意大利语：Aikens Jun/gj)
在 Google 搜索结果中查看更多 Swissinfo 报道。 了解更多
符合JTI标准
您可以在这里找到读者与我们记者团队正在讨论交流的话题。
请加入我们！如果您想就本文涉及的话题展开新的讨论，或者想向我们反映您发现的事实错误，请发邮件给我们：chinese@swissinfo.ch。