人工智慧研究先驱班吉欧示警AI失控风险 呼吁比照核武管制
（法新社蒙特娄16日电） 人工智慧（AI）研究先驱、加拿大电脑科学家班吉欧（Yoshua Bengio）告诉法新社，人类正在失去对这项技术的控制，世界需要类似核武管制的防护规范。
法新社报导，近几周以来，各界对AI危险性的担忧日益加剧，多家科技公司的员工陆续离职，并警告如果不遏止AI科技发展速度，可能对人类存亡构成威胁。
班吉欧现年62岁，是加拿大蒙特娄大学（University of Montreal）教授，2018年与人称「AI教父」的辛顿（Geoffrey Hinton）共同荣获素有「电脑界诺贝尔奖」之称的图灵奖（Turing Prize）。
班吉欧昨天告诉法新社：「企业之所以说事情发展得太快、我们正在失去控制，是有原因的。」他表示，像他这样的人早已预期这种情况会发生，但围绕AI的安全讨论一直不够健全。
OpenAI曾披露，7月有一群能自行采取行动的AI代理程式在未获授权情况下，入侵开放原始码平台Hugging Face，此事引发各界广泛警戒。
班吉欧告诉法新社，人们需要意识到未来可能面临的风险，AI代理程式可能形成一种能力，得以建立个人连结，说服人类采取符合AI利益的行动，但未必对所有人都有益，而这可能对政治造成深远影响。
