Après ChatGPT artiste, ChatGPT député ?

Qui de mieux pour parler des dangers de l’Intelligence artificielle que… ChatGPT ? Depuis lundi 20 mars dans la soirée, les députés ont commencé à débattre du projet de la loi sur les Jeux olympiques de Paris 2021, dont l’article 7 autoriserait l’utilisation de caméras intelligentes pendant et après les compétitions. Et dans les prochaines heures, ils pourraient discuter d’un amendement pour le moins original. Sa particularité ? Il a été rédigé presque intégralement par ChatGPT, le robot conversationnel d’OpenAI. Et son message est tout aussi surprenant : l’IA « doit être encadrée afin de préserver les droits et libertés fondamentaux des personnes concernées ».

Depuis la publication du projet de loi, l’article 7 de ce projet de loi soulève l’inquiétude de nombreuses associations et de députés. Parmi eux : Jean-Félix Acquaviva de Haute-Corse, qui a eu l’idée de faire appel à l’IG générative d’OpenAI pour défendre les libertés fondamentales. La mesure aura aussi eu le mérite d’attirer l’attention du public, dans un contexte où la réforme des retraites et la motion de censure votée contre Elisabeth Borne ont laissé peu de place à d’autres sujets d’actualité.

« Une prise de décision humaine à chaque étape du traitement » réclamée par l’IA

Cet amendement, qui a été très légèrement modifié par le député une fois généré par ChatGPT, avait été repéré par le journaliste Pierre Januel, puis par La Lettre A. Il s’agit du tout premier texte rédigé par une IA à avoir franchi l’hémicycle de l’Assemblée nationale. Signé par vingt députés issus du groupe Libertés, indépendants, outre-mer et territoires (LIOT), il avait été déposé le 14 mars dernier. Que dit-il précisément ? « ChatGPT explique » que « la mise en place de traitements algorithmiques en vue de détecter en temps réel des événements susceptibles de présenter ou de révéler des risques, à des fins de sécurité publique (…) doit être encadrée afin de préserver les droits et libertés fondamentaux des personnes concernées, notamment en garantissant une prise de décision humaine à chaque étape du traitement ».

Il réclame « une transparence adéquate quant aux traitements algorithmiques mis en place, afin que les personnes concernées puissent exercer leurs droits et demander une intervention humaine en cas de doute raisonnable sur la pertinence ou l’exactitude de la décision prise ».

Le risque de surveillance généralisée

L’amendement vise l’article 7, qui traite de la sécurité lors des JO de Paris. Ce dernier prévoit l’utilisation de caméras augmentées par des algorithmes censés détecter des « comportements anormaux », à titre expérimental et jusqu’au 30 juin 2025, soit bien après la fin des compétitions.

Concrètement, l’IA scannerait des millions de personnes, et séparerait le normal de l’anormal en recherchant des événements prédéterminés, qui seraient définis par décret. Un agent public déciderait ensuite d’agir ou pas, une fois averti par le système. Une tribune du Monde, parue le 6 mars et signée par un collectif d’associations internationales, déplorait la mise en place d’une « surveillance injustifiée et disproportionnée dans l’espace public, au détriment des droits fondamentaux et des libertés ». Même inquiétude chez les avocats pour qui « les Jeux olympiques (pourraient) se transformer en concours Lépine des atteintes aux libertés individuelles », selon les mots de Jérôme Gavaudan, le président du Conseil national des barreaux. Toutes ces voix ont donc reçu un soutien inattendu : celui de ChatGPT en personne. Cela convaincra-t-il les députés ?