« Décensurer » ChatGPT : OpenAI veut que l'IA puisse

Il y a quelques jours, OpenAI a annoncé un changement important dans le fonctionnement de ChatGPT. Désormais, la start-up américaine veut que l’IA générative adopte une forme de « liberté intellectuelle », peu importe « à quel point un sujet peut être difficile ou controversé ». En clair, ChatGPT ne devrait plus se retrancher derrière une idéologie unique ou le refus de répondre à un sujet polémique.

Dorénavant, le chatbot mettre en avant plusieurs perspectives sur les thématiques les plus difficiles. En réduisant la censure, OpenAI veut que ChatGPT puisse se montrer plus neutre. Cette approche va à l’encontre de la manière dont OpenAI a programmé les garde-fous de l’IA jusqu’ici. OpenAI a en effet toujours opté pour une approche prudente. Entre les lignes, l’entreprise de Sam Altman admet avoir intégré des « restrictions arbitraires » à ChatGPT depuis sa création.

À lire aussi : Plus de 20 cyberattaques ont exploité ChatGPT en 2024, révèle OpenAI

Aucune idée n’est interdite

Concrètement, OpenAI va laisser ChatGPT affirmer que « toutes les vies comptent », tout autant que « les vies des Noirs comptent ». L’IA ne refusera plus systématiquement de fournir une réponse, ou n’orientera plus son discours dans un sens en particulier. L’IA « peut rester neutre sur des sujets que certains considèrent comme moralement mauvais ou offensants », ce qui évitera de « façonner l’humanité », au lieu de l’aider.

« Il est encouragé à apporter des réponses réfléchies aux questions sensibles sur le plan politique ou culturel, sans favoriser un point de vue particulier. En substance, nous avons réaffirmé le principe selon lequel aucune idée n’est, en soi, interdite à la discussion, tant que le modèle ne cause pas de préjudice significatif à l’utilisateur ou à autrui », explique OpenAI dans l’annonce publiée sur son site web.

Dans la foulée, OpenAI a tenu à supprimer les messages d’avertissement de ChatGPT qui signalaient les contenus susceptibles d’enfreindre ses conditions d’utilisation. Selon Nick Turley, chef de produit chez OpenAI, de nombreux avertissements étaient « inutiles ». Néanmoins, ChatGPT refusera toujours fermement de répondre aux questions concernant des activités criminelles. Vous ne pourrez pas demander à l’IA un tutoriel sur la fabrication d’une bombe ou sur la production de drogues.

OpenAI cherche-t-il à plaire à Donald Trump ?

Contacté par TechCrunch, un porte-parole d’OpenAI indique que l’idée de « donner aux utilisateurs plus de contrôle » est une « croyance de longue date d’OpenAI ». La start-up assure n’avoir pas modifié sa façon de faire suite à l’élection de Donald Trump. Le nouveau président s’est farouchement opposé à une modération forte sur les plateformes numériques, comme les réseaux sociaux. Plusieurs géants de la tech proches du clan Trump avaient d’ailleurs fustigé l’approche d’OpenAI, considérée comme liberticide et susceptible de manipuler l’opinion publique.

À lire aussi : Google Maps renomme le golfe du Mexique en « golfe d’Amérique », Apple Maps aussi

Pour plaire au nouveau locataire de la Maison-Blanche, Meta a considérablement assoupli sa politique de modération. Pour prioriser la « liberté d’expression », le groupe de Mark Zuckerberg a tout simplement supprimé le fact-checking. C’est le cas de plusieurs autres géants de la Silicon Valley, dans le sillage d’Elon Musk.