Une majorité de Le comité d’éthique de l’IA d’Axon a démissionné hier en signe de protestation, à la suite d’une annonce la semaine dernière selon laquelle la société prévoyait d’équiper des drones de Tasers et de caméras afin de mettre fin aux fusillades de masse dans les écoles.
L’entreprise a renoncé à sa proposition dimanche, mais le mal était fait. Axon avait d’abord demandé au conseil consultatif d’envisager un programme pilote pour équiper un certain nombre de services de police de drones Taser l’année dernière, puis le mois dernier. Une majorité du comité d’éthique de l’IA, qui comprend des experts en éthique de l’IA, des professeurs de droit et des défenseurs de la réforme de la police et des libertés civiles, s’y est opposée les deux fois. Le président du conseil consultatif, Barry Friedman, a déclaré à WIRED qu’Axon n’avait jamais demandé au groupe d’examiner un scénario impliquant des écoles, et que le lancement du programme pilote sans répondre aux préoccupations précédemment exprimées est dédaigneux envers le conseil et son processus établi.
Dans une lettre de démission conjointe rendue publique aujourd’hui, neuf membres du comité d’éthique de l’IA ont déclaré que la société semblait “faire du commerce sur la tragédie des récentes fusillades de masse” à Buffalo et Uvalde, au Texas. Bien qu’il ait mentionné les deux fusillades de masse dans un communiqué de presse annonçant le projet pilote, le PDG d’Axon, Rick Smith, a nié les allégations selon lesquelles la proposition de la société était opportuniste dans une AMA Reddit. Smith a déclaré qu’un drone Taser pourrait encore attendre des années, mais qu’il envisageait 50 à 100 drones Taser dans une école, dirigée par du personnel qualifié. Avant qu’Axon ne suspende le projet pilote, Freidman l’a qualifiée d ‘”idée mal pensée” et a déclaré que si l’idée a peu de chances de se concrétiser, alors le discours d’Axon “distrait le monde des solutions réelles à un problème grave”.
Un autre signataire de la lettre de démission, Ryan Calo, professeur de droit à l’Université de Washington, qualifie l’idée d’Axon de tester les drones Taser dans les écoles de “très, très mauvaise idée”. Un changement significatif pour freiner la violence armée aux États-Unis nécessite de faire face à des problèmes tels que l’aliénation, le racisme et l’accès généralisé aux armes à feu. La mort d’enfants à Uvalde, au Texas, ne s’est pas produite, dit Calo, parce que l’école manquait de Tasers.
« Si nous voulons nous attaquer au problème de la violence à l’école, nous savons tous qu’il existe de bien meilleures façons de le faire », dit-il.
Le conseil d’administration avait précédemment exprimé sa crainte que des drones armés pourrait conduire à à un recours accru à la force par la police, en particulier dans les communautés de couleur. Un rapport détaillant l’évaluation du conseil consultatif d’un programme pilote devait être publié cet automne.
La vraie déception, dit Calo, n’est pas que l’entreprise n’ait pas fait exactement ce que le conseil d’administration lui avait conseillé. C’est qu’Axon a annoncé ses projets de drones Taser avant que le conseil d’administration ne puisse détailler pleinement son opposition. “Tout d’un coup, de nulle part, l’entreprise a décidé d’abandonner ce processus”, dit-il. “C’est pourquoi c’est si décourageant.”
Il a du mal à imaginer que la police ou le personnel qualifié d’une école possède la conscience de la situation pour utiliser judicieusement un drone Taser. Même si un opérateur de drone réussissait à sauver la vie de suspects ou de personnes appartenant à des communautés marginalisées ou vulnérables, la technologie ne resterait pas là.
