传以色列用AI辨识加萨目标 联合国秘书长深感不安
(法新社纽约联合国总部5日电) 以色列据传使用人工智慧(AI)辨识加萨目标,造成许多平民丧生,联合国秘书长古特瑞斯(Antonio Guterres)今天对此表示严重关切。
以色列-巴勒斯坦独立线上新闻杂志「+972」报导,以色列曾使用AI辨识加萨目标,在某些情况下,人工监督时间仅不到20秒钟。
古特瑞斯说,以色列军方的轰炸行动据传包括把AI当作目标辨识工具,尤其是在人口稠密的住宅区,这造成大量平民伤亡,他对这些传闻深感不安。
他说:「影响整个家庭的生死决定,没有任何一部分应该交由演算法冷冰冰的计算来处理。」
「+972」这篇报导声称,以色列军方使用几乎无人监督的AI标定系统,对伤亡采取宽松政策,将数以万计的加萨人标示为「暗杀行动嫌疑人」。
这篇报导提到,根据「6名以色列情报官员」说法,一个称为「薰衣草」(Lavender)的系统「在对巴勒斯坦人前所未见的轰炸行动中发挥核心作用,尤其是在战争初期阶段」。
「+972」报导:「根据消息人士,这对军方的作战行动产生很大的影响,以至于他们基本上把这个AI机器得出的结果,『视为好像这是人类的决定』。」
两名消息人士说:「军队在战争爆发的头几周还决定,『薰衣草』每标记出一名低阶哈玛斯(Hamas)特工,就允许杀害多达15到20名平民。」
消息人士还说,「如果目标是哈玛斯高阶官员…军队在数个情况下曾授权击毙100多名平民」。
以色列国防军(IDF)今天驳斥这番说法,称「IDF并未使用人工智慧系统辨识恐怖分子,或试图推测一个人是否为恐怖分子」。
以色列国防军又说,军方有个「资料库,目的是交叉对照…有关恐怖组织军事特工的情报消息,作为分析人员的工具」。
以色列军方表示:「当攻击造成的预期附带损害过大时,IDF不会发动攻击。」附带损害这词的意思包含平民伤亡。