3 - L'introduction du principe de garantie humaine
L'Intelligence Artificielle se retrouve également dans
la révision de la loi bioéthique. Un article L. 4001-3 a
été introduit dans le Code de la santé publique, il vise
l'utilisation par un professionnel de santé d'un « dispositif
médical comportant un traitement de données algorithmique dont
l'apprentissage a été réalisé à partir de
données massives » pour « un acte de
prévention, de diagnostic ou de soin ». La création de
ce principe pour l'IA dans le domaine de la santé est une étape
relativement importante qui permettrait d'amener d'autres domaines à
évoluer.
Cette avancée fait référence à des
valeurs très fortes en Europe qui placent l'humain au premier plan.
L'enjeu pour l'Europe est de s'ouvrir à l'innovation tout en
régulant les enjeux éthiques. C'est le principe d'une «
Garantie Humaine » de l'Intelligence Artificielle.
33
Le principe de Garantie Humaine de l'Intelligence Artificielle
a été introduit dans la proposition de règlement du 21
avril 2021. L'article 14 consacre alors une portée
générale pour la totalité des champs et secteurs d'usage
de l'Intelligence Artificielle à ce principe. Il permet alors la mise en
place d'une information préalable du patient sur le recours à
l'Intelligence Artificielle sans sa prise en charge mais également le
déploiement d'une supervision humaine de la solution d'Intelligence
Artificielle.
L'article 14 de la proposition de règlement sur l'IA
est intervenu après l'apparition d'un projet pilote de «
Collège de Garantie Humaine » mis en oeuvre en 2020 par Ethik-IA.
Il se place dans la continuité de ce projet.
Cet article met en place certaines mesures. En outre, il est
précisé que les systèmes d'IA doivent permettre
d'être supervisés par des humains. De plus, la supervision humaine
doit pouvoir prévenir au maximum les risques pour la santé et
pour les droits fondamentaux qui peuvent éventuellement présenter
un niveau de risque élevé. Il est alors consacré la
nécessité d'une Garantie Humaine pour un développement
éthique de l'Intelligence Artificielle. Des indications sont
également fournies sur la mise en oeuvre de cette supervision. La
Garantie Humaine doit alors être identifiée et construite par le
fournisseur avant sa mise sur le marché ou identifiée par le
fournisseur. Elle doit faire l'objet d'un suivi en « vie
réelle» de l'IA. Pour finir, cet article énonce des
objectifs d'informations à mettre en place.
Cette proposition de règlement met en place de
nombreuses avancées bénéfiques pour les citoyens
européens. Pour autant, il est malheureusement difficile de ne recenser
que les points positifs de cette dernière.
II- Les critiques des autorités de protection
des données personnelles face à cette
réglementation
Cette proposition de règlement sur l'intelligence
artificielle, aussi appelé IA Act, est le premier cadre juridique
posé sur ces pratiques au sein de l'Union européenne. Très
attendu, il a été analysé par les autorités de
contrôle et de protection pour relever ce qu'il pouvait être
amélioré et rechercher des solutions dans le but de renforcer son
efficacité aussi bien dans sa rédaction (A) que dans son
organisation institutionnelle (B).
34
Pour cela, le Comité européen de la protection
des données (CEPD) et le contrôleur européen de la
protection des données ont émis un avis conjoint 5/2021 le 18
juin 2021 sur cette réglementation dont l'objectif est d'assurer un
cadre juridique effectif tout en respectant les exigences de protection des
données personnelles prévues au sein de l'Union.
| 
