Amazon exploite vos conversations avec Alexa pour entraîner son IA générative

Suite au succès de ChatGPT, Amazon a annoncé son intention d’enrichir Alexa, l’assistant vocal des enceintes Echo, avec de l’IA générative. Grâce au modèle Alexa Teacher Model, déjà en partie exploité depuis quelques années, Amazon a mis au point une nouvelle version d’Alexa. Cette itération s’appuie sur l’IA générative pour avoir des conversations plus naturelles avec l’utilisateur.

Pour former le modèle derrière cette nouvelle Alexa, Amazon s’appuie sur les conversations entre ses clients et l’assistant vocal. Pour fonctionner, les modèles linguistiques, qu’il s’agisse d’Alexa Teacher Mode, GPT, PaLM ou encore Llama, ont besoin d’une montagne de données. C’est pourquoi Amazon a impérativement besoin d’exploiter les échanges de ses centaines de milliers d’usagers.

À lire aussi : Amazon réalise son plus gros investissement avec AWS, l’IA d’Anthropic

Une politique déjà appliquée

Interrogé par nos confrères de NBC, Dave Limp, le vice-président en charge des appareils et des services d’Amazon, a confirmé l’exploitation des conversations. Selon lui, tous les individus qui acceptent de converser avec la nouvelle version d’Alexa verront leurs données vocales et leurs échanges être exploités pour la formation du modèle.

Peu après, un porte-parole d’Amazon a nuancé le postulat de Dave Limp. Contacté par Gizmodo, celui-ci ajoute que la politique consistant à exploiter les conversations n’est pas nouvelle. En fait, Amazon a toujours eu l’habitude de se servir des échanges de sa clientèle pour améliorer ses services :

« Nous avons toujours cru que la formation d’Alexa avec des requêtes issues du monde réel est essentielle pour offrir cette expérience ».

Amazon rassure les utilisateurs d’Alexa

Le porte-parole précise que seule « une petite fraction » des conversations est effectivement utilisée pour entraîner le modèle de langage. Amazon s’est gardé de communiquer sur la quantité concrète de requêtes exploitées par ses algorithmes.

Conscient des craintes soulevées par sa politique, le titan du commerce électronique rappelle que « les clients peuvent toujours accéder au même ensemble robuste d’outils et de contrôles de confidentialité qui leur donnent le contrôle de leur expérience Alexa ». De plus, il n’est nullement question qu’Alexa exploite des conversations à l’insu des usagers :

« Les clients sauront toujours quand Alexa écoute leur demande parce que l’indicateur de lumière bleue s’allumera et qu’un son audible optionnel sonnera ».

Ce n’est pas la première fois qu’Alexa soulève des questions en matière de respect de la vie privée. Il y a quelques années, Amazon a révélé que toutes les commandes vocales transmises à une enceinte Echo sont enregistrées et stockées sur ses serveurs.