ChatGPT : pourquoi cette série écrite par l’IA a fait scandale

Un projet intitulé Nothing, Forever a vu le jour sur Twitch en décembre dernier. Diffusée en continu sur la plate-forme, cette série inspirée des sitcoms des années 1990 a été en grande partie imaginée par l’intelligence artificielle. Pour rédiger le « script », les créateurs Brian Habersberger et Skyler Hartle se sont en effet appuyés sur GPT-3, le modèle de langage derrière ChatGPT. Dans le détail, le scénario du show a été généré par Davinci, le modèle le plus performant de l’ensemble des modèles estampillés GPT-3.

Comme le duo l’explique sur Reddit, « les dialogues, les paroles, la réalisation, les mouvements du personnage et la musique » ont été générées par une IA. Par exemple, les voix ont été produites avec Azure Cognitive Services, les services basés sur l’IA de Microsoft mis à disposition des développeurs. Pour la partie visuelle, les créateurs ont opté pour un design similaire « aux jeux PC point-and-click des années 90 ». Là encore, la direction artistique a été conçue à l’aide de l’intelligence artificielle en s’appuyant sur les options proposées par le moteur de jeu Unity.

À lire aussi : Devenir riche avec ChatGPT – la nouvelle promesse des influenceurs

Un succès fulgurant pour une série absurde

Les personnages, dont un protagoniste intitulé Larry Feinberg, rappellent beaucoup l’une des sitcoms phares de l’époque, Seinfield. Mais malgré les prouesses de la technologie, la plupart des scènes de la série sont complètement absurdes. Les blagues tombent régulièrement à l’eau, les personnages ont des comportements incohérents et il n’y aucune intrigue générale. L’ensemble ressemble à un enchaînement sans queue ni tête.

En miroir d’une sitcom comme Friends, Seinfield ou The Big Bang Theroy, Nothing, Forever se déroule exclusivement dans des espaces fermés. En l’occurrence, les scènes sont limitées à un seul appartement. On y croise uniquement trois personnages en plus de celui de Feinberg, Yvonne Torres, Fred Kastopolous, et Zoltan Kakler.

« Au fur et à mesure que les outils génératifs s’améliorent, nous avons l’idée qu’à tout moment, vous serez en mesure d’ouvrir l’équivalent futur de Netflix et de regarder une émission perpétuellement, sans arrêt autant que vous le souhaitez », explique Skyler Hartle, cocréateur de la série, à Vice.

En dépit de ces défauts, Nothing, Forever est parvenu à attirer une foule de téléspectateurs en quelques semaines. À certains moments, la série est regardée par plus de 10 000 curieux en simultané. Une communauté de fans a même vu le jour. Sur Discord, des fans tentent, tant bien que mal, de trouver des explications rationnelles aux comportements erratiques des personnages. Une encyclopédie en ligne, consacrée aux personnages, aux événements et aux lieux récurrents, a aussi été mise sur pied.

Et c’est le drame…

Malheureusement, le succès de la série animée a été brusquement interrompu ce dimanche 5 février 2023. Lors d’un monologue face caméra, le personnage de Feinberg a fait des déclarations transphobes et homophobes qui ont choqué les internautes :

« Je pense à dire un peu de choses sur le fait qu’être transgenre est en fait une maladie mentale. Ou sur comment tous les libéraux sont secrètement homosexuels et veulent imposer leur volonté à tout le monde. Ou quelque chose sur la façon dont les personnes transgenres ruinent la société ».

Étrangement, le personnage semble s’être rendu compte du caractère odieux de ses propos :

« Mais personne ne rit, alors je vais m’arrêter. Merci d’être venu ce soir. À la prochaine fois ». 

Amazon, propriétaire de Twitch, a promptement pris des mesures pour stopper la diffusion de la série. La sitcom générée par l’IA a été bannie de la plate-forme pour une période de 14 jours. Sur la page de la série, on apprend que la chaîne est « temporairement indisponible en raison d’une infraction aux Lignes de conduite de la communauté ou des Conditions d’utilisation de Twitch ». Pour l’heure, Amazon n’a pas précisé que la blague transphobe était à l’origine de la sanction, mais ça paraît plutôt évident.

Plusieurs témoignages apparus en ligne révèlent que les personnages de Nothing, Forever ont commencé à se comporter étrangement quelques heures plus tôt. D’après un internaute sur YouTube, les dialogues sont brusquement devenus plus absurdes autour de 23 heures, soit 10 minutes avant les propos controversés. Les créateurs ont alors mis en ligne un sondage qui donnait le choix entre des répliques toujours plus absurdes ou des dialogues plus cohérents. La majorité des internautes se sont affichés en faveur de scènes plus logiques… ce qui a abouti à la blague transphobe.

Pourquoi l’IA a subitement dépassé les bornes ?

Sans surprise, les propos tenus par le personnage de Feinberg résultent d’un dysfonctionnement dans le système mis en place. Selon le cocréateur Skyler Hartle, « le texte que nous avons généré était une erreur ». Dans un message publié sur Discord, un membre de l’équipe de Nothing, Forever révèle les origines du débordement :

« Plus tôt ce soir, nous avons rencontré une panne en utilisant le modèle GPT-3 Davinci d’OpenAI, ce qui a fait que la série a montré des comportements erratiques ».

Pour redresser la situation, les créateurs de la série ont décidé de passer sur une version antérieure du modèle de langage d’OpenAI, Curie. Le système de modération, qui évite normalement les propos haineux, n’a pas fonctionné avec cette itération :

« Le passage à Curie a entraîné la génération du texte inapproprié. Nous tirons parti des outils de modération de contenu d’OpenAI, qui ont fonctionné jusqu’à présent pour le modèle Davinci, mais qui n’ont pas fonctionné avec Curie ».

Sur son site, OpenAI précise que Curie excelle « dans de nombreuses tâches nuancées telles que la classification et la synthèse des sentiments ». Il est donc logique que les créateurs aient décidé de s’appuyer sur ce modèle pour remplacer temporairement Davinci.

Malgré ce revers de taille, les créateurs de Nothing, Forever préparent activement le retour de la série sur Twitch. L’équipe travaille sur l’intégration d’une interface logicielle qui permettra de se relier directement au système de modération d’OpenAI.

C’est loin d’être la première fois qu’une intelligence artificielle se met à tenir des propos intolérants. On se souviendra notamment de Tay, un chatbot conçu par Microsoft. En moins de 24 h, le robot conversationnel était devenu raciste et misogyne.

🔴 Pour ne manquer aucune actualité de 01net, suivez-nous sur Google Actualités et WhatsApp.

Source : Vice