Avec Perspective, Google met le machine learning au service des modérateurs

Qui n’a jamais eu affaire aux trolls et autres commentaires haineux en naviguant sur le web ?

 

Nombre d’articles publiés sur des sites d’actualité et blogs sont aujourd’hui envahis de commentaires malveillants dont le but est de générer des polémiques, aiguiser les clivages ou simplement détourner l’attention du sujet principal. Selon une étude du CIPHR (Center for Innovative Public Health Research), 72 % des internautes américains ont ainsi été témoins de harcèlement en ligne.

 

Afin de lutter contre ce fléau, Google a décidé de mettre à contribution son incubateur technologique, Jigsaw, afin de développer un outil capable d’identifier les messages abusifs sans la moindre intervention humaine

 

La filiale de Google a en effet développé un algorithme, baptisé « Perspective », capable via une intelligence artificielle d’évaluer le niveau de « Toxicité » d’un commentaire en lui attribuant une note de 1 à 100. Une fois reliée à la plateforme concernée, l’API compare automatiquement les nouveaux commentaires publiés sur la plateforme avec une base de données remplie de commentaires pré-façonnés, ce qui permet d’évaluer leur degré de nocivité. Grâce à la technologie du « Machine Learning » (Apprentissage Automatique), l’algorithme est même capable d’apprendre et d’améliorer sa précision.

 

Pour autant, « Perspective » n’a pas vocation à remplacer le modérateur. Celui- ci est libre d’interdire ou d’autoriser la publication du commentaire après avoir pris connaissance de la teneur potentiellement « nocive » du commentaire en question. L’outil peut également indiquer le degré de toxicité au rédacteur au moment où celui-ci est en train de rédiger son commentaire pour l’inciter à modérer ses propos.

 

Afin d’éprouver l’algorithme, Jigsaw a mené pendant plusieurs mois un test grandeur nature en collaboration avec la version en ligne du « New York Times » et l’encyclopédie en ligne « Wikipédia ». Des millions de commentaires ont été analysés par l’intelligence artificielle et comparés aux traitements qui étaient réalisés par les équipes de modération des deux sites.

 

Bien que la technologie soit encore « loin d’être parfaite » d’après Jared Cohen, le fondateur de la filiale de Google, les premiers résultats sont encourageants. L’IA offre aux plateformes en ligne un traitement extrêmement rapide des commentaires tout en réduisant les coûts. D’autre part, l’apprentissage automatique permet à l’outil de s’améliorer de jour en jour.

 

Fort ce premier succès, Jigsaw souhaite maintenant proposer son outil à d’autres sites, en particulier les sites d’actualité anglophones, afin de les aider à modérer plus facilement les commentaires de leurs lecteurs.

 

Parmi les services proposés, les sites pourront demander aux internautes de classer les commentaires lus selon leur estimation de nuisance ou encore envoyer un message à l’internaute lorsque celui-ci publie un commentaire évalué comme haineux.

 

De quoi mettre un terme aux perturbations et rendre au web sa quiétude initiale….

Newsletter

Recevez notre newsletter bi-mensuelle

Commenter