Et si les voitures autonomes étaient racistes ?

Les voitures autonomes détecteraient moins bien les personnes avec des couleurs de peau foncées, selon une étude américaine.

E MJournaliste web

Publié le 06-03-2019 à 19h34
Mis à jour le 06-03-2019 à 19h37

Image d'illustration d'une voiture autonome.

Une nouvelle étude montre que les véhicules autonomes ont un défaut qui les rend plus susceptibles de renverser une personne noire. C'est le journal britannique The Independent qui met en lumière ce rapport. Des chercheurs du Georgia Institute of Technology ont découvert que le système de détection, comme les capteurs et les caméras, est meilleur pour détecter des personnes à la peau plus claire. Les auteurs de l'étude expliquent que ce système de détection rend moins susceptible de repérer des personnes noires et de s'arrêter avant de les écraser.

Les chercheurs ont déclaré vouloir mener cette étude après avoir observé des taux d’erreur plus élevés pour certaines données démographiques. Des tests ont été menés sur huit systèmes de reconnaissance d’image, montrant que le système était bien biaisé. En moyenne, la précision de ces systèmes serait 5% moins précise pour les personnes ayant la peau plus foncée.

Pour prouver ces résultats, les scientifiques ont modifié certains paramètres, comme l'heure du jour ou l'obstruction de la vue du système de détection d'image, mais la précision moyenne est restée la même. L'étude conclue «nous espérons que cette étude fournira des preuves convaincantes du réel problème qui pourrait survenir si cette source de capture biaisée n'était pas prise en compte avant le déploiement de ce type de modèles de reconnaissance».

Réactions d’autres experts

La chercheuse en intelligence artificielle Kate Crawford, qui n’a pas participé à l’étude, a manifesté son inquiétude sur Twitter.

«Les décès de piétons causés par des voitures autonomes sont déjà là, mais ils ne sont pas répartis de manière égale» peut-on lire.

D’autres experts en intelligence artificielle ont souligné que le document n’utilisait pas l’ensemble des données utilisés par les développeurs de véhicules autonomes, de sorte qu’il est possible qu’il ne reflète pas la précision réelle des systèmes du monde réel.