L’Apple Card propose-t-elle des limites de crédit bancaire moindres aux femmes qu’aux hommes ? C’est ce qu’affirme l’entrepreneur américain David Heinemeier. Il s’est longuement offusqué la semaine dernière sur Twitter d’obtenir une somme 20 fois supérieure à celle de sa femme, alors que son couple a mis en commun ses revenus et ses impôts de longue date. À sa suite, le cofondateur d’Apple, Steve Wozniak, a partagé un témoignage similaire. Ce qui laisserait à penser que l’algorithme calculant les limites de crédit serait biaisé.
The @AppleCard is such a fucking sexist program. My wife and I filed joint tax returns, live in a community-property state, and have been married for a long time. Yet Apple’s black box algorithm thinks I deserve 20x the credit limit she does. No appeals work.
— DHH (@dhh) November 7, 2019
The same thing happened to us. We have no separate bank accounts or credit cards or assets of any kind. We both have the same high limits on our cards, including our AmEx Centurion card. But 10x on the Apple Card.
— Steve Wozniak (@stevewoz) November 10, 2019
La discussion sur Twitter est devenue virale et la polémique aujourd’hui est telle que le département des services financiers de New-York a décidé d’ouvrir une enquête. Goldman Sachs, la banque partenaire d’Apple qui fournit la carte de crédit, est située à Manhattan. Or tout algorithme qui traiterait différemment des personnes en fonction de leur genre viole les lois de l’Etat.
Des comptes-joints en préparation
Un porte-parole de la banque a assuré que le genre des utilisateurs n’était pas pris en compte dans le processus de décision, qui resterait basé sur un examen individuel des revenus. Ce qui expliquerait que deux personnes de la même famille n’obtiennent pas les mêmes résultats. Pour calmer les esprits, l’entreprise a déclaré qu’elle allait faire en sorte avec Apple que l’Apple Card puisse être partagée avec d’autres membres de sa famille, via des comptes joints.
Cathy O’Neil, mathématicienne et spécialiste des biais dans les algorithmes, suggère qu’Apple publie ses éventuels tests internes prouvant l’équité de son algorithme, qu’un tiers puisse également auditer ces tests. Pour savoir si cet algorithme est discriminant, il va falloir comprendre comment il fonctionne.
https://twitter.com/mathbabedotorg/status/1193947028142866433
Bloomberg rappelle qu’un peu plus tôt cette année, le même régulateur new-yorkais a ouvert une enquête sur la société d’assurance et de soins de santé UnitedHealth Group, soupçonnée de désavantager les patients noirs par rapport aux blancs.
🔴 Pour ne manquer aucune actualité de 01net, suivez-nous sur Google Actualités et WhatsApp.
