Construire une IA digne de confiance en Europe

Depuis quelques années, en France, de nombreux guides, recommandations et outils ont été publiés sur cette thématique comme par exemple le livre blanc^[1] du programme Confiance.ai, le guide pratique pour des IA éthiques^[2] de Numeum en 2021 et le livre blanc^[3] du Hub France IA en 2023. L’ensemble des recommandations sont résumées dans la définition suivante des experts de la Commission Européenne : une intelligence artificielle (IA) ou système d’intelligence artificielle (SIA) digne de confiance doit être licite en accord avec la réglementation et européenne, éthique en accord avec des principes et valeurs moraux et robuste sur le plan technique et social. 

En mettant l’accent sur un socle de valeurs essentielles comme la sûreté, l’impact durable, l’autonomie, la responsabilité humaine, l’explicabilité, l’équité et le respect de la vie privée, ils offrent également de nombreuses préconisations pour l’industrialisation de l’IA ; comme la construction de composants IA à confiance maitrisée, la construction de données et/ou de connaissances pour augmenter la confiance dans l’apprentissage ou encore l’interaction générant de la confiance entre l’utilisateur et le système fondé sur l’IA.

Si l’IA Act adopté en mars 2024, a posé le cadre légal en Europe, les lignes directrices ont défini, depuis 2018, sept exigences à respecter pour qu’un SIA soit considéré digne de confiance.

Ce socle de base concerne aussi bien des aspects systémiques, individuels que sociétaux et ce, pour le monde industriel et la société civile : 

1. Action humaine et contrôle humain : respect des droits fondamentaux, action et contrôle humains.
2. Robustesse technique et sécurité : résilience aux attaques et sécurité, plans de secours et sécurité générale, précision, fiabilité et reproductibilité.  
3. Respect de la vie privée et gouvernance des données : respect de la vie privée, qualité et intégrité des données et accès aux données. 
4. Transparence : traçabilité, explicabilité et communication. 
5. Diversité, non-discrimination et équité : absence de biais discriminants ou injustes, accessibilité et conception universelle, participation des parties prenantes.
6. Bien-être sociétal et environnemental : lien avec la durabilité et le respect de l’environnement, l’impact social, la société et la démocratie. 
7. Responsabilité : auditabilité, réduction au minimum des incidences négatives et communication à leur sujet, arbitrages et recours.

Ces sept exigences non exhaustives sont également partagées par de grandes instances telle que l’Unesco qui a, pour sa part, ajouté une huitième exigence : le respect de la dignité humaine.

© Inria_Photo S. Erôme-Signatures

« Lorsque l’on parle d’IA digne de confiance, il s’agit d’une part d’un sujet pluridisciplinaire, au croisement de l’humain, la société et la technique, et d’autre part, d’un sujet impliquant d’autres domaines de numérique avancé » explique Ikram Chraibi Kaadoud, Chargée de projet IA de confiance et management éthique au sein du Centre Inria de l’université de Bordeaux.

IA digne de confiance : un sujet pluridisciplinaire

Les lignes directrices présentées ci-dessus préconisent à la fois des méthodes techniques et non techniques afin d’élaborer des SIA dignes de confiance. La prise en compte de l’humain dans sa complexité cognitive en tant qu’utilisateur, ou la prise en compte des risques portés par l’usager du système, sont en effet des sujets de gestion de projet et non seulement des sujets techniques. 

Le compromis « performance – cout écologique » est également abordé en préconisant de prendre en compte la réalité écologique actuelle et d’œuvrer pour le bien commun plutôt que la performance individuelle d’une entreprise. Par exemple, en optant pour un algorithme IA qui va être moins performant (dans la limite de ce qui est acceptable pour le métier impliqué) et également moins gourmand en termes de puissance computationnelle, l’impact sera moins important pour la planète.

Un autre sujet d’envergure, en lien avec l’exigence de transparence, est le compromis performance-explicabilité (c’est-à-dire la capacité à comprendre les raisons d’un comportement d’un SIA). Les experts de la Commission Européenne préconisent de ne pas utiliser de l’IA si la transparence n’est pas possible ou compromise, car il sera plus complexe de comprendre si l’IA fonctionne pour les bonnes raisons (par exemple en se basant sur les bonnes caractéristiques) ou pourquoi elle ne fonctionne pas. « La préservation de l’humain, du citoyen et de la société reste alors la priorité à considérer » résume Ikram Chraibi Kaadoud.

« L’année 2023 a notamment été marqué par l’essor de l’IA générative. En parallèle de cet essor technique, le sujet de l’IA a pris de plus en plus de place dans la société civile : les métiers créatifs se sont retrouvés confronté à une concurrence soudaine très performante, les enseignants ont été confrontés à des nouveaux binômes de travail étudiants-chatGPT, ou encore des employeurs ont dû décider d’autoriser ou non cet outil en interne, etc. » poursuit Ikram Chraibi Kaadoud.

Si de nombreux efforts sont réalisés en France et en Europe pour structurer, informer et éduquer autours de l’IA générative et des risques associés, l’année 2024 a vu émerger (ou plutôt officialiser) une crainte concernant les métiers de la recherche. Avec l'expansion rapide de l'utilisation de cette technologie dans tous les domaines liés à la science, l'IA a transformé la recherche, en rendant « le travail scientifique plus rapide, plus efficace en accélérant la découverte en offrant plus de commodités dans la production de textes, d'images et de codes ».

Dans ce contexte, l’Union Européenne a publié, en mars dernier, les Lignes directrices sur l'utilisation responsable de l'IA générative dans la recherche^[4] à destination de la communauté scientifique publique et privée. Ces recommandations abordent les principales possibilités et les principaux défis : sensibiliser les chercheurs aux limites de la technologie, notamment en ce qui concerne le plagiat, la révélation d'informations sensibles ou encore les biais inhérents aux modèles. S'appuyant sur les principes de l'intégrité de la recherche, les recommandations de l’Union européenne offrent des orientations aux scientifiques, aux organismes de recherche et aux bailleurs de fonds de la recherche afin de garantir une approche cohérente dans toute l'Europe, le tout en s’appuyant sur les lignes directrices en IA digne de confiance.

Ainsi, les Lignes directrices européennes^[5] en 2019 puis l’IA Act en 2024 soulignent la volonté de l’Europe de fédérer, structurer et rassurer autour de ces sujets en prenant en compte les préoccupations de l’ensemble des parties prenantes de la société. Si certaines questions restent toujours en suspens comme l’encadrement législatif et le contrôle étatique, il est désormais possible de penser, concevoir et industrialiser des SIA de confiance pour les acteurs publics et privés d’aujourd’hui et de demain. 

© Inria_Photo M. Magnin