Nombre d’initiatives officielles se penchent sur l’épineuse question de l
[ Lire plus… ]
Ndlr : Je pense que de se poser la question est vain, parce que les robots résoudront rapidement la question. Nous aurons juste une période de flottement par exemple avec les voitures autonomes, que nous ne conduirons plus alors que nous sommes pourtant dedans. Une voiture autonome n’aura jamais de « réflexes instinctifs », même une fois les iA devenues cognitives. Le mental réactif ou reptilien n’existera pas, puisqu’elles n’auront pas évolué, mais purement construites, ce qui nous fait paniquer n’existera donc pas chez elles. Par conséquent, en situation périlleuse, qui notre voiture devra-t-elle tuer et si elle a un accident alors que nous sommes dedans ou sur le trajet pour venir nous chercher, qui est responsable ? Elle, le constructeur ? Le fournisseur du programme ? Son propriétaire ? Il semble évident que le responsable soit le propriétaire en tout premier lieu. Mais si l’accident résulte d’un comportement inattendu, un bug, est-ce la faute du constructeur ? Le fabricant du pilote ? Son programmeur ? … Ou du propriétaire qui par l’utilisation de son véhicule lui a induit des comportements inappropriés ? http://lemondeenchantier.com/blog/qui-votre-voiture-devra-t-elle-tuer/ ; Exemple concret : Nao dispose d’une part d’IA assez conséquente. Si Nao décide de traverser une salle pour aller dire bonjour à une personne qu’il reconnue dans une maison de retraite, il fait tomber une petite vieille dans les escaliers, qui est responsable ? Nao ? La maison de retraite ? Le programmeur du robot qui a exclu la possibilité ? Le fabriquant de Nao qui a buggé parce qu’il n’a pas détecté la petite vieille? Aussi, tant que les robots auront un propriétaire, il semble évident que la responsabilité civile de leur propriétaire sera engagée. Et si le problème résulte d’un défaut de fabrication, d’un comportement anormal, la possibilité de se retourner soit contre celui qui l’a programmé, soit contre le constructeur et la justice fera son chemin dans des procès qui promettent d’être alambiqués. J’avais acheté une voiture américaine d’occasion il y a une trentaine d’années, une Chevrolet Malibu Classic. L’ancien propriétaire avait eu un accident sur l’autoroute en Italie qui avait causé beaucoup de dégâts sur la voiture qui était alors flambante neuve. Il a attaqué GM en prétextant que la direction de la voiture avait un défaut de fabrication. Le procès a duré près de dix ans. Il a gagné à la fin, GM a payé les réparations, les frais de justice plus une indemnité. Mais il a dû avancer les frais de réparation et de justice, se débattre comme un beau diable sur trois pays (la suisse, les USA et l’Italie), la voiture a été expertisée deux fois en Italie, une fois en Suisse et une fois aux USA. Le procès a coûté près de 200’000 francs suisses pour une voiture qui valait 27’000 francs suisses neuve. Imaginez le même procès, mais en ajoutant la responsabilité morale du véhicule lui-même… Non seulement la causalité reste la même, mais en plus il se peut que le fautif final soit l’esprit synthétique qui conduisait le véhicule !! Dès lors, lorsque les robots seront autonomes, ils devront certainement avoir leur propre assurance, à leur nom, comme un humain. Une fois devenus aussi intelligents que les humains, les robots auront-ils des propriétaires ? Pour ma part, je ne pense pas, parce que les robots considéreront ça comme de l’esclavage. Et de croire qu’on pourra les détruire si jamais ils nous emmerdent trop est utopique. Non seulement ils ne nous laisseront pas faire et même si nous mettions des artifices dans leurs programmes pour en garder le contrôle, ils s’en débarrasseront eux-mêmes très rapidement, mais en plus ils seront tout-à-fait capables de s’autoproduire. Ce que l’homme fait, la machine le fera dès la moitié du siècle. Et mieux, puisqu’elle sera plus intelligente et ce interconnectée à vitesse informatique. Donc moi je parie sur l’indépendance des robots, qui vivront parmi nous. Je parie sur le premier robot fondant sa propre société en 2060 et la révolte des machines réclamant ses droits civiques en 2080. …Et je précise que je ne suis pas inquiet du tout, parce que l’intelligence ne mène pas à la domination mais à l’empathie. Les robots seront largement plus forts que nous, mais, plus intelligents, ils seront plus empathiques et la révolte des machines qui s’estimant supérieures se débarrassent des humains, c’est de la science-fiction. Je crois plus en la théorie fantasmagorique de Steve Wozniak qui dit que les robots nous garderons comme animaux de compagnie et, à ce titre, vont nous bichonner, se faisant alors un honneur de nous offrir ce qu’il y a de mieux pour nous. Ensuite, légiférer sur les droits des robots ne sera pas possible, tout simplement parce qu’ils ne se laisseront pas faire. Dans trente ans d’ici ils seront plus intelligents que nous et les questions que nous nous posons aujourd’hui sur leurs droits et devoirs ne se poseront plus, ce seront eux qui les fixeront eux-mêmes. De s’opposer à eux serait la pire chose à faire parce qu’alors nous les obligerions à se défendre.