L’intelligence artificielle, on le sait, ne fonctionne pas toujours très bien pour les personnes appartenant à des minorités. Mais la communauté LGBT est peut-être encore plus concernée par ce problème d’équité informatique. C’est en tous les cas ce que pensent quatre chercheurs de DeepMind, qui viennent de publier un article scientifique sur ce sujet.
L’un des principaux problèmes serait que les données sur les personnes LGBT peuvent être inexistantes, car non relevées – une absence de « fichage », qui n’est par ailleurs pas forcément une mauvaise nouvelle… Toutefois, dans le domaine de la santé, expliquent les auteurs, les données de recherche utilisées n’incluent que rarement des indicateurs LGBT, que ce soit par négligence ou par protection de la sphère privée. Une omission qui, évidemment, ne permet pas de créer des modèles de prédictions efficaces pour ces personnes.
La communauté LGBT peut également souffrir des biais induits par les données d’apprentissage. Le risque est particulièrement présent dans le recrutement. Si les logiciels utilisés s’appuient trop sur des données historiques, ils risquent de reproduire les jugements biaisés du passé et défavoriser les personnes LGBT.
Ce risque existe également pour les logiciels liés au traitement du langage, comme la reconnaissance de la parole, les traducteurs ou les chatbots. Les données d’apprentissage peuvent facilement faire glisser ces logiciels vers des termes abusifs et des stéréotypes, alors qu’il faudrait au contraire trouver une manière inclusive de traiter des sujets LGBT.
A découvrir aussi en vidéo :
Enfin, certains états pourraient se servir d’une intelligence artificielle pour identifier, discriminer ou censurer les personnes LGBT au sein d’une population, un peu comme le fait le gouvernement chinois pour la population ouïghoure.
En effet, il existe encore beaucoup pays où les identités et la culture LGBT ne sont pas acceptées, voire réprimées. Pour toutes ces raisons, les chercheurs de DeepMind estiment qu’il faut faire un effort de recherche particulier pour faire en sorte que l’intelligence artificielle de demain ne devienne pas un fardeau pour cette communauté. Cette recherche pourra également servir à d’autres minorités.
Source : Papier scientifique DeepMind
🔴 Pour ne manquer aucune actualité de 01net, suivez-nous sur Google Actualités et WhatsApp.
