2 - L'autonomie des robots comme bouleversement en
matière de responsabilité
Ce n'est pas à l'outil de dicter sa vision à
l'artisan. Dès lors, il convient de s'interroger quant à la
limite d'autonomie offerte au robot (a) afin d'en délimiter
réellement l'existence et l'utilisation (b).
21
a - Une autonomie nécessairement jaugée
L'intelligence artificielle est une grande révolution
du XXIème siècle en progression et par ailleurs immuable qui sera
portée par le monde civil pour des usages civils. En effet, beaucoup de
technologie militaire ont à ce jour une utilité duale
(civil-militaire). Le problème se pose de savoir si ladite intelligence
artificielle doit disposer d'une décision de tir dans le cadre
militaire.
Il y a certains cas de figures où potentiellement, la
question peut se poser notamment avec l'exemple du robot militaire «
Samsung SGR-A1 » de la Corée du Sud conçu pour
remplacer les soldats humain et l'armée de la Corée du Sud dans
la zone coréenne démilitarisée à la
frontière avec la Corée du Nord. Ledit robot fait ainsi face
à un no man's land, une zone d'exclusion interdite aux civils. Dans le
cas d'une éventuelle invasion et en l'absence d'autres
possibilités, le militaire responsable de la décision de tir
pourrait légitimement activer l'autonomie du robot dans ce cadre-ci.
Parmi les Etats en haute pointe dans ce domaine se trouvent :
les Etats-Unis avec la DARPA (Agence pour les projets de recherche
avancée de défense) ; les Israéliens et la Russie qui en
2015 testent ses robots en Syrie sur une base rebelle syrienne.
Il existe une campagne internationale de contestations
créée par des ONG à l'égard de ces «
robots killers » (Stop Killer Robot) qui soumet
à l'ONU une demande visant à interdire ce type d'arme. Donnant
lieu à beaucoup de discussions à Genève, le but
étant de ne pas laisser le contrôle aux machines d'une
décision autonome létale.
Le problème posé par ces « robots
tueurs » relèvent d'une éventualité dans
laquelle ces derniers disposent d'une autonomie de décision.
Un rapport du 27 Janvier 2017 rendu par le Parlement
Européen concernant les questions relatives à la
responsabilité civiles en matière d'action dommageable d'un robot
recommande à la commission : « La création d'une
personnalité juridique spécifique pour les robots autonomes les
plus sophistiqués qui devront être considéré comme
des personnes
22
électroniques dotés de droit et de devoir
bien précis y compris celui de réparer tout dommage causé
à un tier. »
Dudit rapport, il en convient de constater que l'on est bien
loin de la déclaration de St Pétersbourg qui sans
difficulté majeure en 1868 avait fixé les limites techniques ou
les nécessités de la guerre doivent s'arrêter devant les
exigences de l'humanité.
b - D'une stricte nécessité d'encadrer l'existence
et l'utilisation d'armes autonomes
Initialement, l'utilisation d'une machine nécessite
d'être téléopéré par un individu disposant de
la décision de tir. Ainsi, est écartée la décision
du tir confiée à l'autonomie du robot. En outre, il s'agit
là de reconnaître une responsabilité humaine fondamentale
émanant de la décision première d'un Homme de
décider du droit de la machine à tuer.
Pour autant, ne pas nier l'existence future de robots
autonomes échappant au contrôle humain ne semble pas absurde. A
titre d'exemple, la question a été très récemment
posée en France où la nécessité pour cette
dernière de réglementer à l'échelle internationale
son droit robotique a été soumis dans la continuité des
discussions dans le cadre de l'ONU. En l'occurrence, est
préconisé à cette dernière de poursuivre son
financement à l'égard des recherches relatives à
l'autonomie des systèmes pour éviter un déclassement
international, néanmoins elle doit adjoindre à cela un
encadrement juridique propre à ses valeurs. ("Robots tueurs"
dans l'armée : "La responsabilité humaine, la possibilité
d'avoir la dernière main sur la machine, est absolument fondamentale" ;
France Info)
Ainsi, la question se pose de savoir si ces robots sur la base
de modèles mathématiques avec le droit de vie ou de mort vont
remettre en cause le droit de la guerre et plus encore les principes du droit
international humanitaire. Pour l'ONU, il s'agit aujourd'hui de trouver une
définition précise et une régulation des armes autonomes
car confier à des robots un pouvoir de décision dans des
situations de vie ou de mort revient à affranchir une ligne morale
fondamentale. L'intérêt est donc ici pour l'ONU de définir
un cadre réglementaire notamment en cas d'erreur d'appréciation
d'un robot ou d'un humain à distance. A l'issue des premières
réunions, la perspective d'un traité régissant leurs
utilisations restait lointaine.
23
En somme, l'enjeu principal est de définir ce qu'est
réellement une arme autonome et de donner des limites à son
utilisation. Ceci, d'un point de vue civil, peut être mis en
parallèle et se rapproche du débat autour de la
responsabilité des voitures automatisées en cas d'accident.
24
PARTIE II : L'ÉTAT ACTUEL DE CETTE
RÉGLEMENTATION : ENTRE
AMBITIONS ET CARENCES
Le 21 avril 2021, la Commission a proposé un nouveau
Règlement permettant d'améliorer le fonctionnement du
marché intérieur de l'Union européenne concernant
l'intelligence artificielle. Elle souhaite le faire adopter dans un cadre
juridique uniforme, voulant faire de l'Europe le pôle mondial d'une
intelligence artificielle digne de confiance.
| 
