L’appli de retouche de selfies FaceApp sortie en janvier dernier fait parler d’elle depuis quelques jours mais pas en bien. Elle est en effet accusée de racisme par de nombreux utilisateurs.
Au point que le dirigeant de FaceApp a présenté ses excuses et tenté d’expliquer comment un des filtres, censé rendre les modèles plus beaux, avait eu la fâcheuse tendance de blanchir les peaux noires.
#faceapp isn't' just bad it's also racist…🔥 filter=bleach my skin and make my nose your opinion of European. No thanks #uninstalled pic.twitter.com/DM6fMgUhr5
— Terrance AB Johnson (@tweeterrance) April 19, 2017
Contacté par le site Mashable, Yaroslav Goncharov, PDG et fondateur de FaceApp, n’a pu que reconnaître un problème sérieux et a indiqué que les équipes de l’appli travaillaient à corriger le souci. En attendant, le filtre existe toujours mais a été renommé « spark », étincelle, au lieu de « hot », sexy, « pour en exclure toute connotation positive », a ajouté Yaroslav Goncharov.
La faute de la base de référence
Contrairement à d’autres applis qui se contentent d’appliquer des filtres sur les photos, comme Snapchat par exemple, FaceApp utilise une technologie d’intelligence artificielle (IA) pour modifier la photo. Et pour que le système soit capable de transformer un visage, il a fallu l’entraîner à analyser des milliers de photos de visages souriants, jeunes, vieux ou… sexys. Le fondateur de l’appli a ainsi laissé entendre que le problème viendrait de là. « C’est un effet secondaire malheureux de l’entraînement suivi par le réseau neuronal », a-t-il indiqué à Tech Crunch.
Autrement dit, les clichés utilisés comme référence pour établir le filtre « hot » étaient très certainement ceux de personnes blanches, ce qui a permis à l’IA de conclure que pour être sexy, il fallait avoir une peau claire. Les personnes noires ne sont pas les seules à s’être plaintes de l’appli qui auraient également eu tendance à débrider les yeux des Asiatiques.
Pas une première
Ce n’est malheureusement pas la première fois qu’une intelligence artificielle est accusée de racisme. En mars 2016, Microsoft avait dû faire taire son robot de discussion, Tay, qui avait appris –auprès des internautes– à tenir des propos haineux. Quelques mois plus tard, c’était l’IA chargée de juger un concours de beauté qui avait été mise en cause lorsque les participants s’étaient rendus compte que seule une personne noire faisait partie des 44 gagnants.
Mais que nous apprennent finalement ces différents événements ? Que ces algorithmes conçus par des humains ne font finalement que refléter leur vision du monde, l’environnement dans lequel ils évoluent et, éventuellement, leurs préjugés.
Sources :
TechCrunch, Mashable
🔴 Pour ne manquer aucune actualité de 01net, suivez-nous sur Google Actualités et WhatsApp.
