Un logiciel pour détecter les contenus extrémistes sur internet
Un nouveau logiciel dévoilé vendredi va permettre d'aider les acteurs d'internet à repérer rapidement et à éliminer les contenus extrémistes destinés à inciter à la violence, utilisés notamment par les jihadistes du groupe Etat islamique (EI) pour pousser à commettre des attentats.
Le Projet contre l'extrémisme, organisation non gouvernementale basée à Washington, propose d'utiliser son logiciel de la même manière qu'un outil similaire déjà en action, qui permet de repérer les contenus de pornographie infantile en ligne.
Le logiciel a été développé par Hany Farid, scientifique à l'Université de Dartmouth, avec notamment un financement de Microsoft. Celui-ci avait déjà travaillé sur le système PhotoDNA, aujourd'hui largement utilisé par les acteurs d'internet pour enrayer la diffusion de contenus montrant de la pornographie infantile ou des images d'exploitation sexuelle.
Le nouveau logiciel est lancé alors que les groupes jihadistes tentent de faire un maximum de propagande en diffusant en ligne des contenus violents dans le but notamment de recruter des volontaires pour commettre des attentats.
"Nous pensons que c'est la solution technologique pour combattre l'extrémisme en ligne", a expliqué Mark Wallace, directeur exécutif du Projet contre l'extrémisme, qui inclut d'anciens diplomates américains et d'autres pays.
Si le système est adopté par des entreprises d'internet, dont un certain nombre semblent intéressées, "ce sera un grand pas pour s'assurer que l'extrémisme en ligne ne nous envahira plus", a ajouté M. Wallace.
L'outil permettrait ainsi par exemple d'éliminer la diffusion virale de vidéos montrant des décapitations ou des tueries, comme celles produites par l'EI.
M. Farid pour sa part a souligné que le nouveau logiciel serait particulièrement utile pour des sites internet, comme les réseaux sociaux, aujourd'hui obligés de retirer manuellement chaque contenu dont ils veulent se débarrasser.
"Nous avons simplement développé un outil qui permet aux entreprises de faire respecter les termes de leur service. Elles le font déjà, mais c'est très lent", a-t-il dit.
Le logiciel en est à ses derniers stades de développement et sera en mesure d'être déployé dans les mois à venir.
Le groupe a également proposé la création d'un Bureau national indépendant pour signaler les contenus extrémistes, qui fonctionnerait comme le centre qui travaille sur la pornographie infantile.