Quand les robots prennent le volant : l'avenir des voitures autonomes

Coup de théâtre en Californie ! Les robots n’ont plus le droit de conduire.

La DMV (California Department of Motor Vehicles) a suspendu le permis des robotaxis de Cruise.

C'est à dire des voitures autonomes pilotées par l'IA.

En jeu ? La sécurité des passagers et du public. La décision tombe après plusieurs incidents.

L'un d'eux a abouti à un piéton coincé sous une voiture sans conducteur de Cruise.

Avant cela, une collision avec un camion de pompiers avait également eu lieu.

Le message est clair : "Les véhicules autonomes de Cruise ne sont pas sûrs pour le public".

Pourquoi cette suspension est-elle intéressante ?

Cela met en lumière une tension sous-jacente. Nous tolérons des erreurs humaines au volant. Mais qu'en est-il des erreurs de machine?

Reprenons.

Un conducteur humain peut commettre une erreur. Nous l'acceptons, jusqu'à un certain point, comme une faillibilité humaine. Mais une voiture autonome? Elle est programmée pour être sûre.

Une erreur de sa part apparait donc plus grave.

Alors, où est le juste milieu?

Il est intéressant de noter que la DMV n'a pas interdit le concurrent de Cruise, Weymo (Google).

Et elle a fourni à Cruise les étapes nécessaires pour réappliquer à son permis suspendu.

Le ballon est donc dans le camp de Cruise : ils doivent prouver que leurs véhicules sont sûrs, au même titre qu'un conducteur humain serait tenu de le faire. Voire plus ?

L'infaillibilité totale d'une machine n'est pas une attente réaliste, mais son imprévisibilité n'est pas acceptable non plus.

Si une machine fait en moyenne moins de morts qu'un humain sur les routes, peut-on accepter qu'elle fasse quand même des erreurs ?

Quel équilibre entre le risque zéro et l'acceptation des limites de l'IA ?

(Source : The Verge)