灌输黑暗素材 麻省理工首创精神变态AI

（法新社旧金山11日电） 美国麻省理工学院一组研究团队，向人工智慧（AI）灌输社群网站上描写死亡的素材，制造出首个宛如患有神经病的AI，名为诺曼（Norman ）。

研究团队之所以创造诺曼，是盼以通俗语言，解释演算法的运作方式，并藉此让人们意识到AI潜在的危险。

美国知名学府麻省理工学院（MIT）表示，诺曼代表正在学习演算法的机器读取偏倚资讯，导致AI出错的危险案例。

研究团队的其中3名成员透过电子邮件表示：「机器在学习时，有一点至关重要：当教导机器学习演算法时，灌输机器的资讯会对其行为造成显着影响。」

他们说：「所以当我们谈到AI演算法出现偏差不公时，罪魁祸首通常不是演算法本身，而是喂给演算法的偏倚资讯。」

而诺曼这个名字的灵感，来自惊悚片宗师希区考克（Alfred Hitchcock）1960年的电影「惊魂记」（Psycho）中，名为诺曼贝兹（Norman Bates）的精神变态杀手。

研究团队只灌输诺曼社群网站Reddit上描述人类死状的短文。

研究人员接着对诺曼进行罗夏克（Rorschach）墨迹心理测验，以判定诺曼眼中的景象，并将诺曼的答案与受传统训练的AI答案比较，不料产生骇人的对比结果。

当传统AI看到「两个人紧靠对方站着」，诺曼却看到「一名男子跳出窗户」。

而诺曼看到「男子被尖叫的妻子射杀」时，其他AI 则看到「一人手持雨伞」。