人工智能和直接民主能和平共处吗？

通过Bot Dog算法可以在社交媒体中过滤并标记仇恨言论。 stophatespeech.ch

人工智能被一些人看作是民主的威胁，但有些人却认为它蕴含着无穷潜力。专家和学者向我们介绍瑞士该如何运用算法和大数据，又该如何避坑。 

瑞士每3个月会举行一次全民投票，针对各议题展开的讨论往往很激烈，在互联网上人们更是肆无忌惮：侮辱、赤裸裸的仇恨、甚至死亡威胁层出不穷。“这是民主要面对的问题，”瑞士最大的女性联合会“Alliance F”的会长Sophie Achermann说。 

“讨论可以激烈，但要务实，这很重要。网络上的仇恨会影响意见的多元化，”Achermann说：“人们担心惹上仇恨言论，所以宁愿不说话”。例如2021年在对“农药和饮用水议案”进行投票前，一些女政治家收到了太多的咒骂邮件，以至于不想公开露面，她说。这种现象不止发生在瑞士：世界上有不少政治家都在网上被攻击、受威胁，特别是女性(德)外部链接和少数族裔。 

Alliance F(女性联合)为了“揪出”仇恨言论特意研发了一套算法，叫作“Bot Dog”(英)外部链接，因为它会像猎狗一样在社交媒体上找出仇恨言论并标记它的位置。志愿者会回复每一条仇恨信息。其理念是：不让网上的仇恨漏网，要驳斥每一条，并将讨论引向实质性内容。 

虽然Bot Dog还处于测试阶段，但第一次尝试已得出以下结果：苏黎世联邦理工学院和苏黎世大学的学者们(英)外部链接伴随了这一先锋项目的研发，并发现如果能在问答中激发人们对被仇视对象的同情心，那么效果最好。如“您的立场会令犹太人非常难过”之类的字句，会让敲出仇恨言论的人道歉或删除信息。 

Bot Dog将于7月正式上线。所有感兴趣的人都可以参与此项目，Achermann说：您可以对评论进行评价，帮助Bot Dog学习如何认清仇恨言论；也可以帮忙回复。 

让算法与人合作

Bot Dog只是一例，证明人工智能(KI)可以为民主助力。苏黎世联邦理工学院计算社会分析(Computational Social Sciences)专业的Dirk Helbing教授认为，数字化民主有着无穷潜力。他设想的是全民都可以参与财务计划，也就是让居民们共同决定本城或本社区的收入该怎么花。 

在苏黎世的Wipkingen区，人们已尝试过这一方案：当地居民在网络平台上投票支持了城市花园、滑板运动场和街头小吃节项目。所以每个项目都获得了从税收中拿出的4万瑞郎的支持。 

还有一个将人工智能应用于数字民主的想法：世界上来自各个城市和地区的人都可以通过网络连接在一起，参加一次“城市奥林匹克”体育竞赛，找出经济可持续发展、降低二氧化碳与和平共处的最佳解决方案。这些方案和相关数据都会公开，所有人均可查阅，可以成为人工智能模型的基础。“我想我们可以创建一个数字化参与的社会，”Helbing说，让人工智能和人一起工作。就像Bot Dog一样，让算法与志愿者共同合作对抗网络上的仇恨。 

人工智能在直接民主方面潜力很大。然而仅靠数字驱动的方法，会对“以民主、法治和人权为基础的社会形态造成很大伤害，”Helbing说。 

不全是优势

算法能决定的事情越来越多，例如我们能接收什么信息、看到什么产品、什么价格。这些讯息决定着我们如何看待世界、重视些什么问题，由此也形成了我们的政治观点和选举态度，Helbing表示。 

2016年特朗普在参选总统时，其团队就曾利用大数据给目标群体发送个性化的宣传内容。“我们用博客、网站、文章、视频和广告轰炸他们，直到他们看到我们想让他们看到的世界、选我们的候选人，”在Netflix的一部纪录片中Brittany Kaiser这样评论竞选时他的工作：“隐私大盗”(The Great Hack)。Kaiser曾服务于剑桥分析公司(Cambridge Analytica)，在美国总统大选时从Facebook的个人主页上窃取了8700万人的私人信息，并制造了迄今为止最大的数据丑闻。 

奥巴马在2012年第二次参选总统时，也有针对性地展开了竞选工作，其团队尽可能地收集数据，并为每位选民送去个性化讯息。 

在这类竞选中，很难说人工智能的功劳到底有几成。然而Hebling及其同事(英)外部链接认为，这么做风险很大，特别是针对目标人群通过大数据助推(Nudging)其行为、情绪和兴趣点，这很容易滋生极权，Helbing说。助推是心理学概念，是指有目的地对人的情绪和行为产生影响。 

人工智能在瑞士会影响投票吗

对人工智能来说，最重要的是数据，得到的数据越多，它工作得越好。但在瑞士，数据保护和私人领域是“神圣不可侵犯”的。类似美国的竞选手段在瑞士能用吗？瑞士政党会不会用微目标锁定(Microtargeting)来影响选民呢？ 

苏黎世大学的专家Lucas Leemann认为：不会。他的主要研究领域是如何衡量“机器学习”对舆论的影响。 

瑞士与美国的情况截然不同，他说。特朗普和奥巴马在参选时使用的原始数据(Rohdaten)，在瑞士根本没有。“他们几乎为每位美国公民都打造了数据处理单元。在瑞士则不是这样的，”他说。 

Lehmann上学时曾为美国的时尚品牌打工，那时他可以进入顾客的数据库，不仅可以掌握顾客的姓名、地址和出生年月，还可以查到其预计年收入、子女数量、汽车品牌和住房状况(或租或买)等。 

“在美国这些数据很容易买到，也可用于政治领域。在瑞士据我所知这些数据还没有、或尚未被用于政治宣传，”他说。 

“尚未”？那么不久后在瑞士就可以买了吗？苏黎世联邦理工大学的Helbing表示，这个世界的数据化程度已相当深，远超一般人的认知。 

他举例说，世界经济论坛的数据安全中心设在日内瓦，来自世界各地的组织和公司如亚马逊、万事达卡、华为科技都参与了。“那里汇集了非常多的数据，”Helbing说。这些数据都要经联合国的批准才能使用，它们主要是为了到2030年实现可持续发展目标而收集的。 

“虽然初衷是好的，但如何利用这些数据、它们又会被用于哪些领域，这些都是问题，”Helbing说：“参与的公司如此之多，难免某些公司会利益熏心”。 

更透明

为了避免民主受人工智能的威胁，我们现在就要制定法律和规范，专家警告说。 

但要制定有效的法规，首先需搞清算法是如何工作的，这才是问题的关键。但像Facebook这样的平台，往往像黑盒子一样神秘，瑞士算法监督(AlgorithmWatch)组织的负责人Anna Mätzener说：“我们并不知道，算法具体是如何工作的。我们也不知道，他们都掌握了谁的什么信息”。 

虽然人工智能的内容被展示在社交平台上，但其内核却是备受保护的秘密。为了搞清算法是如何影响选举的，算法监督组织与《南德意志报》共同展开了一项调查(德)外部链接。他们召集了上百名志愿者，收集了2021年德国大选前其Instagram页面的实时新闻。这些志愿者订阅了各政党的主页，一套外挂插件会记录这些主页推送给用户的实时新闻将会在哪里、以何种方式展示，并将这些信息汇总给算法监督组织。 

其结果显示：与其他政党相比，极右翼政党“德国选择党”(AfD)的实时新闻出现在Instagram上的位置靠前。至于为何如此，该调查难以解释。 

大概是Instagram所属的元宇宙(之前的Facebook)不喜这类调查，所以AlgorithmWatch收到了警告：如果该项目不停止，那么元宇宙“将采取进一步措施”。所以数据信息的捐赠被提前叫停。 

“只要不允许进行这类研究，我们就难以知晓：人工智能控制下的平台内容展示会对社会、政治舆情或直接对民主造成什么样的影响，”Mätzener说。 

(译自德语：宋婷)