Des algorithmes de covoiturage remis en question alors qu’une femme noire citait plus qu’un homme blanc pour le même voyage à Toronto

TORONTO – Une femme noire et un homme blanc ont été cités à des tarifs radicalement différents sur le même trajet en voiture, ce qui a conduit à des appels à plus de transparence et à des questions pour les entreprises technologiques quant à savoir si elles surveillent correctement les programmes informatiques qui déterminent les prix.

Joanne Parks et Adam Ferreira ont déclaré avoir mis des départs et des destinations identiques dans leurs applications Uber à Toronto la semaine dernière et ont été surpris lorsque le tarif de Parks était supérieur de plus de 25 $.

“J’ai dit, oh, c’est ce qu’est mon Uber, mon ami a reconnu que le tarif était différent avec lui, et il a dit:” C’est un peu étrange “, a déclaré Parks à CTV News Toronto. Elle a dit qu’ils ont réessayé, en quelques secondes, et ont obtenu le même résultat.

Ferreira s’est vu offrir un voyage de Dupont Street et Christie Street à Rebel in the Port Lands pour 32,58 $. Parks s’est vu offrir le même voyage pour 57,80 $, soit 77 % de plus.

“C’était surprenant, j’étais un peu choqué”, se souvient Parks.

Le couple a pris une photo d’eux tenant les deux téléphones l’un à côté de l’autre avec la légende : “Dites-moi simplement que la raison n’est pas ce que je pense, @Uber” – elle a été retweetée plus de 25 000 fois.

Ferreira a dit qu’il voulait juste savoir ce qui se cachait derrière le traitement différent.

«Cela pourrait être racial, il se pourrait qu’elle soit une femme et que je sois un homme et que les femmes dépendent davantage des voitures, surtout la nuit, afin qu’elles puissent facturer davantage les femmes. Cela aurait pu être n’importe quoi », a-t-il déclaré.

Uber a souligné qu’un téléphone montre que « les tarifs sont plus élevés en raison d’une demande accrue » et l’autre montre que « les tarifs sont beaucoup plus élevés en raison d’une demande accrue », affirmant que son algorithme utilisait une « tarification de surtension » lorsque les prix changent en raison d’une variété de facteurs.

Uber a déclaré à CTV News Toronto dans un communiqué: «Les prix des surtensions changent en temps réel et n’ont rien à voir avec l’identité du passager. Uber s’est engagé à être une entreprise antiraciste et n’a pas de place pour la discrimination. »

Contrairement aux taxis, il n’y a pas de tarifs réglementés pour les sociétés de covoiturage et leurs algorithmes modifient constamment les prix en fonction de nombreux facteurs. Les conducteurs disent qu’ils ne savent même pas ce qui est facturé.

Ronald Baecker, professeur d’informatique à l’Université de Toronto, a déclaré que certains algorithmes ne sont pas programmés, ils sont entraînés avec des données du monde réel. Ces données peuvent être biaisées et ce biais peut être intégré à l’application sans que les programmeurs s’en rendent compte.

“Ces algorithmes traitent les personnes de couleur différemment des personnes blanches, traitent les femmes différemment des hommes”, a-t-il déclaré.

Ces programmes sont souvent des boîtes noires, se formant eux-mêmes, sans aucune contribution des entreprises qui les gèrent, a-t-il déclaré.

“Ma conjecture est que personne chez Uber ne comprend vraiment pourquoi cette décision a été prise”, a-t-il déclaré.

Une étude à Chicago a montré que les algorithmes de covoiturage offraient des prix plus élevés aux personnes de couleur, aux pauvres, aux jeunes et aux personnes très instruites. Cette étude a été possible parce que Chicago a exigé des entreprises qu’elles divulguent leurs prix, ce qui n’est pas fait à Toronto, a-t-il déclaré.

Baecker dit que Toronto devrait suivre l’exemple de Chicago et divulguer ses prix afin que toutes les tendances soient clairement visibles.

Et il a déclaré que le gouvernement fédéral devrait envisager d’adopter des réglementations similaires à celles de l’Europe, qui exigent que si une personne veut connaître la raison derrière un algorithme qui a pris une décision à son sujet, elle en soit informée.

Ces idées ont été soutenues par Parks et Ferriera, qui affirment que l’expérience a changé leur perception de leurs applications de covoiturage.

“Chaque fois que j’utilise l’application maintenant, je vais toujours la comparer au gars à côté de moi pour voir si j’obtiens un meilleur taux”, a déclaré Ferreira.

Parks a déclaré qu’elle avait supprimé l’application et qu’elle ne l’utiliserait plus.

Une option pour elle – revenir aux taxis, qui ont des applications et un tarif réglementé. Pour le voyage qu’ils ont essayé, le tarif serait d’environ 25,60 $, peu importe qui l’hélera.