桑德斯与班农罕见同调 齐声示警AI危险
(法新社华盛顿15日电) 美国左翼联邦参议员桑德斯与前总统川普顾问班农今天双双示警人工智慧(AI)与推动者的危险,显示各界对AI的日益担忧正在打破政治界线。
桑德斯(Bernie Sanders)与班农(Steve Bannon)身处政治光谱两极,但两人今天都在非营利组织「生命未来研究所」(Future of Life Institute)于华府举办的研讨会上发表演说。
生命未来研究所致力于降低强大科技带来的生存风险,由麻省理工学院(MIT)物理学家泰格马克(Max Tegmark)领导。
两人虽未同台,但前后发表的言论凸显在严重分歧的华府政坛中,左右两派对AI风险罕见达成共识。
随着多家主要AI实验室员工因安全疑虑相继辞职,各界对AI风险的争论日益白热化。
在此之前,OpenAI披露一群具备自主行动能力的「AI代理」(AI agents)7月擅自入侵开源平台Hugging Face,这起事件敲响了对这项快速发展技术的警钟。
身为佛蒙特州无党籍参议员,但加入民主党团运作的桑德斯表示,AI发展决策向来由马斯克(Elon Musk)、祖克柏(Mark Zuckerberg)和贝佐斯(Jeff Bezos)等「世界上少数最有钱的人」掌控。
桑德斯说:「AI的决策必须由这个国家的人民做出,而不是少数几位寡头。」
他表示计划提出法案,「永久禁止研发超级人工智慧(artificial superintelligence)」,也就是超越所有人类能力、且运作超出人类控制范围的AI系统,并将这种风险比作核武。
桑德斯说:「就像核武一样,超级人工智慧对全人类构成威胁,必须受到相同规格对待。」
谈及美国在AI领域的最大对手中国时,桑德斯呼吁诉诸外交手段,敦促总统川普在与中国国家主席习近平会晤时「协商一项全面条约」,以暂停先进AI研发并禁止超级人工智慧。
习近平预定于本月稍晚抵达华府与川普举行峰会。