Chapitre 2 : La nécessité de créer
des principes spécifiques à l'IA
Comment implémenter le privacy by design et
le privacy by default ? Si le RGPD pose de nombreux principes auxquels
chaque responsable du traitement doit se soustraire, le traitement par un
logiciel d'intelligence artificielle pose de nouvelles questions non
prévues par le texte. L'éthique peut alors être une
solution pour réfléchir en amont du traitement et mettre en
oeuvre de mesures techniques et organisationnelles afin de guider une mise en
oeuvre effective du privacy by design et du privacy by
default.
A titre liminaire, il convient de distinguer les trois volets
du terme « éthique »172. Dans son sens
premier, l'éthique renvoie à la morale, dans laquelle Aristote
voyait173 la réponse à la question «
qu'est-ce qu'une vie bonne ? ». L'éthique fait
également référence à un ensemble de normes de
soft law élaborées et mises en oeuvre par les acteurs
privés, telles que la Responsabilité Sociétale des
Entreprises. Enfin, l'éthique est employée dans le vocable des
institutions publiques comme un élément qui préfigure au
droit, depuis la création du Comité Consultatif National
d'Éthique pour les sciences de la vie de la santé en 1983.
L'éthique de l'intelligence artificielle impose au préalable de
déplacer le curseur éthique en fonction de chaque usage et
évolution de la technique. Comme le rappelle la CNIL, «
L'évolution technologique déplace la limite entre le possible
et l'impossible et nécessite de redéfinir la limite entre le
souhaitable et le non souhaitable174 ». L'éthique
peut guider le responsable du traitement tant lors de la collecte (section 1)
que pour le traitement (section 2), lorsqu'elle est effectuée à
bon escient (section 3).
Section 1 : Des principes inhérents à la
collecte et au traitement des données
Les principes éthiques doivent guider le traitement
tout au long du cycle de vie de la donnée soit dès la collecte
(§1) et tout au long du traitement (§2).
§1. Les principes liés à la collecte des
données
1.1. Des données de qualité, quantité
et pertinence adéquates
L'impératif éthique de l'usage de l'IA commence
par la surveillance des données collectées en veillant à
leur qualité, leur quantité et à ce que leur pertinence
soient adéquates175.
La « qualité » des données
impose de fournir des données vérifiées pour obtenir un
résultat fiable.
172 CNIL, les enjeux éthiques des algorithmes et de
l'intelligence artificielle, op. cit., p.24
173 Aristote, « Éthique à Nicomaque »
174 CNIL, les enjeux éthiques des algorithmes et de
l'intelligence artificielle, op. cit., p.25
175 Ibid., p.39
- 30 -
L'application des principes de protection des données
à caractère personnel à l'intelligence
artificielle
La « quantité » de données
doit être adaptée au besoin du traitement, car elle risque de
nuire à la qualité des données. Cathy O'Neil illustre ce
propos par le cas du licenciement d'enseignants à la suite du
résultat d'un logiciel d'évaluation alors qu'ils jouissaient
d'une forte notoriété176. En l'espèce, les
critères du logiciel se basaient sur les résultats scolaires des
élèves, qui peuvent s'expliquer par de nombreux facteurs autres
que la qualité de l'enseignement. Ainsi, la quantité des
données ne doit pas résulter d'une agrégation
irréfléchie de données.
Enfin, la « pertinence » des données
doit être analysée. Cette notion signifie qu'il faut
réfléchir aux biais qui peuvent exister au moment de la
collecte.
Ainsi, les algorithmes peuvent être utilisés
à bon escient lorsque les données utilisées pour le
traitement sont sélectionnées avec la rigueur de ces trois
principes. Il est important de noter que sans cette rigueur, les algorithmes ne
sont donc pas fiables et qu'un esprit critique reste indispensable.
| 
