Algorithme pour lutter contre la haine en Birmanie honoré à Genève

De nombreux acteurs ont dénoncé le rôle des réseaux sociaux dans les discours de haine liées aux violences en Birmanie (archives). KEYSTONE/AP Myanmar Military sda-ats

(Keystone-ATS) L’utilisation des réseaux sociaux pour propager la haine en Birmanie a été ciblée à plusieurs reprises par des experts onusiens. Un algorithme pour détecter et lutter contre cette attitude a reçu mercredi un prix du Centre de politique de sécurité de Genève (GCSP).

La Mission d’établissement des faits sur les violations des droits de l’homme en Birmanie et une rapporteuse spéciale de l’ONU avaient dénoncé ces dernières années les réseaux sociaux. Selon eux, le recours à ces plateformes par certains avait attisé les violences dans ce pays puis étendu les menaces contre les défenseurs des droits humains.

Selon certains responsables de l’ONU, la minorité des Rohingyas a été victime d’un génocide. Plus de 700’000 personnes ont en outre fui ces dernières années au Bangladesh.

Lauréate du prix annuel de l’innovation en termes de sécurité mondiale, l’entreprise sociale birmane Koe Koe Tech, qui remporte 10’000 francs, a lancé dans ce contexte début septembre un projet d’algorithmes pour identifier les déclarations haineuses, avec plusieurs partenaires.

Collaboration avec un réseau

Koe Koe Tech “veut travailler avec les organisations de la société civile dans le monde pour des données conformes aux droits humains”, explique son patron Michael Lwin. La machine qu’elle utilise peut être adaptée aux différents contextes et pré-identifier de potentiels discours de haine qui pourront être vérifiés par des collaborateurs ensuite, dit-il.

Cette entreprise veut encore établir des mécanismes politiques pour empêcher la propagation de contenu inflammatoire. De même que des recommandations pour contraindre les plateformes à garantir que les droits humains soient honorés.

Selon Koe Koe Tech, l’évaluation menée par ces sociétés sur le contenu chez elles est insuffisante face aux millions de posts quotidiens. L’entreprise birmane collabore elle avec l’une d’entre elles pour assister par l’intelligence artificielle les employés qui tentent de détecter les déclarations haineuses.