Tech

Mythes et limites des trois lois de la robotique

Dossier - Les trois lois de la robotique
DossierClassé sous :robotique , robot , lois de la robotique

Le robot, mécanisme automatique pouvant se substituer à l’Homme et ayant parfois un aspect humain, peut paraître bénéfique ou terrifiant. Isaac Asimov avait édicté les trois lois de la robotique afin de calmer les craintes de l’Homme ordinaire envers la « machine ». Découvrez leur origine, leurs limites et leur pertinence dans la société actuelle.

  
DossiersLes trois lois de la robotique
 

Les lois d'Asimov apparaissent à première vue tout à fait valides et pertinentes, mais lorsqu'on y regarde de plus près, leur application pratique se révèle délicate et soumise à de nombreuses difficultés.

Loi zéro. © DrSJS CC0, domaine public

Ainsi, dans plusieurs nouvelles, Asimov place les robots dans des situations de dilemme où il est impossible d'agir sans prendre le moindre risque pour un humain. Aussi crée-t-il un contexte qui contredit la première loi quelle que soit la décision prise ensuite par le robot.

Dans d'autres cas, le robot doit choisir entre plusieurs ordres contradictoires. Il se retrouve alors dans une situation de conflit avec la deuxième loi, dans laquelle il doit choisir à qui il va finalement obéir.

Isaac Asimov à la fin des années 1970 au cours d’une interview consacrée aux lois de la robotique. © biography.com

Que ce soit pour des raisons d'ambiguïté des termes, de perception et d'analyse incomplète, de dilemmes ou d'ordres contradictoires, il existe une infinité de cas pratiques qui placent le robot dans une situation où il devient impossible d'agir sans enfreindre d'une manière ou d'une autre l'une des trois lois. De ce fait, contrairement à leur principe initial d'inviolabilité, elles ne peuvent pas être absolues. En outre, leur priorité relative peut varier selon les implémentations, les circonstances, les ordres précédents et l'expérience du robot. Il en résulte une très grande complexité logique qui ne peut se résoudre par des réponses strictement binaires, d'action ou d'inaction. Il existe le plus souvent plusieurs réponses possibles et une gradation dans la réponse ou l'action choisie.

Asimov était parfaitement conscient des limites de ses trois lois, d'autant qu'il les avait conçues de manière à profiter de leurs faiblesses. Assez rapidement, dès 1950, il en pointa certaines limites, en particulier concernant la première loi qui protège l'humain en tant qu'individu et non en tant qu'espèce. En effet, il serait préférable en toute logique de sacrifier un individu si cela pouvait permettre de sauver un groupe plus important, sinon l'humanité tout entière. Malgré cette prise de conscience précoce, ce n'est qu'en 1985 qu'il intégra cette idée en modifiant les lois. Il ajouta aux trois lois une loi zéro qui plaçait l'intérêt de l'humanité au-dessus de celui d'un seul individu :

  • loi zéro : un robot ne peut nuire à l'humanité ni laisser sans assistance l'humanité en danger.

Dans les faits, l'ajout de règles supplémentaires ne résout pas totalement les problèmes. Dans mon livre consacré à ce sujet, je propose une version étendue et plus réaliste des lois de la robotique et j'analyse la manière dont il serait possible de les intégrer en pratique.