Ce que vous ne savez peut-être pas sur les véhicules autonomes connectés

Les considérations critiques pertinentes aux véhicules autonomes connectés, telles que l’éthique, la responsabilité, la confidentialité et la cybersécurité, ne bénéficient pas du même intérêt que les avantages des CAV. Bien que la capacité des VCA à réduire le nombre d’accidents mortels et à consommer moins de carburant retienne la plus grande attention, les défis des véhicules méritent également d’être discutés.

Dans un trio de Association de normalisation IEEE webinaires—maintenant disponible sur demande— des experts discutent des questions liées à la mobilité autonome, des sujets peu abordés dans les grands médias.

Préoccupations éthiques

En matière d’éthique, l’accent semble être mis sur la façon dont intelligence artificielle aide un CAV à reconnaître les personnes, les objets et les situations de circulation.

Dans le Au volant : qui conduit la voiture sans conducteur ? webinaire, IEEE Fellow Raja Chatilaprofesseur émérite à Sorbonne Université en France et membre du Comité national pilote d’éthique du numérique, a souligné un premier exemple. Cela impliquait de former un système d’IA pour reconnaître les images d’humains d’apparence similaire. Mais il n’incluait pas d’espace sombre et, par conséquent, le système ne pouvait pas identifier les personnes de couleur, une situation qui pourrait s’avérer désastreuse dans les applications de conduite autonome.

La question éthique la plus controversée est probablement la conviction selon laquelle les VAC devraient être capables de prendre des décisions vitales similaires à celles présentées dans une expérience populaire axée sur l’éthique et la psychologie : la soi-disant problème de chariot. Dans le scénario, le conducteur d’un tramway est confronté à une collision imminente sur la voie et n’a que deux options : ne rien faire et heurter cinq personnes sur la voie, ou tirer un levier pour changer de voie et mettre le chariot sur une trajectoire de collision avec une personne.

En réalité, un CAV n’a pas besoin de prendre de décisions éthiques ou morales. Au lieu de cela, elle doit évaluer qui et quoi est le plus à risque et ajuster ses opérations pour éliminer ou minimiser les dommages, les blessures et les décès. D’un point de vue éthique, les CAV, qui utilisent l’apprentissage automatique ou l’intelligence artificielle, doivent effectuer une évaluation précise des risques basée sur des caractéristiques objectives et non sur des caractéristiques telles que le sexe, l’âge, la race et d’autres identifiants humains, a déclaré Chatila.

Attribution de la responsabilité

Si un CAV est impliqué ou provoque un accident grave, qui est fautif ? Le véhicule, le conducteur humain ou le constructeur ? De toute évidence, si le véhicule présente un défaut de fabrication qui n’est pas résolu par un rappel, le constructeur devrait alors assumer un plus grand niveau de responsabilité.

La question demeure alors : qui ou quoi est responsable en cas d’accident ? Le constructeur pourrait prétendre que, dans la mesure où le contrôle manuel du véhicule est disponible, le conducteur est responsable. Le conducteur pourrait toutefois invoquer un dysfonctionnement du système automatisé du constructeur. Montrer du doigt n’est pas la solution.

Le Pilote humain ou numérique Le webinaire couvre ces problèmes et des problèmes d’homologation similaires. L’homologation implique le processus de certification que les véhicules sont en état de rouler et répondent aux critères établis par les agences gouvernementales responsables de la sécurité routière.

Le webinaire discute six niveaux d’assistance à la conduite avancées technologiques grâce auxquelles les voitures autonomes pourraient progresser :

• Niveau 0 : Assistance momentanée à la conduite (contrôle complet du conducteur ; pas d’automatisation ; un conducteur est obligatoire).
• Niveau 1 : Assistance au conducteur (automatisation mineure telle que le régulateur de vitesse ; intervention du conducteur requise).
• Niveau 2 : Assistance supplémentaire (automatisation partielle ; systèmes avancés d’aide à la conduite tels que le contrôle de la direction et de l’accélération ; intervention du conducteur requise).
• Niveau 3 : automatisation conditionnelle (détection environnementale ; le véhicule peut effectuer la plupart des tâches du conducteur ; intervention du conducteur requise).
• Niveau 4 : automatisation élevée (automatisation étendue ; l’intervention du conducteur est facultative).
• Niveau 5 : automatisation complète (capacités de conduite complètes ; ne nécessite aucune intervention ni présence du conducteur).

L’industrie du VCA n’a pas encore atteint les niveaux 4 et 5.

Considérations en matière de confidentialité et modifications du code de la route

Les problèmes de confidentialité et de cybersécurité sont devenus omniprésents dans toutes les applications utilisant des CAV, posant leurs propres préoccupations, comme mentionné dans le Méthodologie basée sur les risques pour élaborer des scénarios de test des systèmes d’intelligence artificielle séminaire en ligne.

Un véhicule n’a pas besoin d’être autonome pour subir des atteintes à la vie privée. Il suffit d’un système de localisation GPS et/ou d’un ou plusieurs occupants équipés d’un smartphone. Étant donné que les deux technologies reposent sur des logiciels, la protection potentielle contre les cyberattaques des CAV est pour le moins discutable.

Les véhicules utilisent de nombreux logiciels qui nécessitent des mises à jour régulières qui étendent leurs fonctionnalités existantes tout en ajoutant des fonctions. Très probablement, les mises à jour sont effectuées sans fil via 5G.

Tout ce qui utilise une connectivité sans fil est un jeu équitable pour les pirates informatiques et les cybercriminels. Dans le pire des cas, un pirate informatique pourrait prendre le contrôle d’un CAV avec des passagers à bord.

Les considérations critiques pertinentes aux véhicules autonomes connectés, telles que l’éthique, la responsabilité, la confidentialité et la cybersécurité, ne partagent pas la même attention que les avantages des CAV.

Jusqu’à présent, de telles situations ne sont pas très répandues, mais davantage de travail et de diligence raisonnable sont nécessaires pour garder une longueur d’avance sur les pirates.

Pendant ce temps, les CAV collectent de grandes quantités de données. Ils collectent des images de piétons sans le consentement des piétons ou du propriétaire du véhicule. Il n’existe actuellement aucune réglementation sur la quantité de données pouvant être collectées, sur qui peut accéder aux données ou sur la manière dont elles sont distribuées et stockées. Essentiellement, les données sont utilisables à de nombreuses fins susceptibles de compromettre la vie privée d’une personne. Associé à la possibilité de transmettre les images sans fil, cet aspect s’étend également au domaine de l’éthique.

Le respect des différents codes de la route est une autre préoccupation. Les conducteurs savent que les limites de vitesse changent, que les voies fusionnent ou s’élargissent, que les détours sont fréquents et que d’autres changements de circulation se produisent. Ils apprennent à s’adapter en observant les panneaux de signalisation ou en s’inspirant des policiers qui dirigent la circulation. Mais les CAV peuvent-ils observer de tels changements ?

Équipés de caméras, de systèmes avancés d’aide à la conduite, de logiciels et de technologies de capteurs, les véhicules devraient pouvoir s’attaquer facilement aux bases. Les caméras et les capteurs d’images peuvent transmettre des données graphiques à un logiciel qui demande au véhicule d’ajuster sa vitesse, de changer de voie, de s’arrêter ou d’effectuer d’autres fonctions de conduite de base.

Mais le code de la route change d’un pays à l’autre, d’un État à l’autre et parfois d’une municipalité à l’autre. Bien que certaines règles de conduite soient universelles, comme le respect des limites de vitesse et des feux de circulation, d’autres varient, notamment quand changer de voie, s’il faut céder le passage aux piétons ou quand il est permis de tourner à droite à un feu rouge. Un CAV saura-t-il de quel côté de la route rouler en fonction du pays dans lequel il se trouve ? Les CAV devront reconnaître et comprendre quand les règles changent.

Les CAV ont un grand avenir, mais les questions liées à la sécurité, à l’éthique, à la cybersécurité, à la transparence et à la conformité doivent être abordées.

Adoption de normes telles que IEEE 2846-2022« Norme IEEE pour les hypothèses dans les modèles liés à la sécurité pour les systèmes de conduite automatisés » serait un moyen de contribuer à relever certains des défis.

Cet article est un extrait édité du «Relever les défis critiques des véhicules autonomes connectés» entrée de blog publiée en octobre.