Alors que le thème de la régulation de l’intelligence artificielle (IA) s’impose aujourd’hui comme un sujet central avec l’AI Act, à la lumière des textes européens déjà entrés en vigueur comme le DSA (Digital Services Act) ou le DMA (Digital Market Act), la contribution de la communauté scientifique à cette réflexion se révèle nécessaire. Mais quels sont les besoins et les attentes du régulateur et comment les méthodes et approches scientifiques peuvent-elles aider à mettre en oeuvre ces régulations complexes ? Quel dialogue doit être instauré, et quels défis devrons-nous affronter collectivement pour garantir une protection efficace des citoyens, respecter les valeurs européennes, tout en préservant le tissu économique et en favorisant l’innovation ?
C’est autour de ces questionnements que s’est articulée la conférence « Régulation numérique : l’apport de la science », organisée par Inria le 21 octobre à la Maison Irène et Frédéric Joliot Curie (Bruxelles).
"L’Union européenne a adopté ces dernières années un ensemble de textes réglementaires souvent pionniers dans le domaine du numérique. C’est le cas du DMA (Digital Market Act), entré en vigueur récemment, pour prévenir les asymétries et les éventuels comportements abusifs et anticoncurrentiels des « gatekeepers », les grandes plateformes numériques capables d’imposer leurs règles à leurs fournisseurs. Organiser ce séminaire à Bruxelles nous a permis d’exposer les travaux de nos scientifiques et des équipes françaises sur un sujet porteur de gros enjeux et qui relève principalement de l’échelon européen", explique Marie-Hélène Pautrat, directrice des partenariats européens d'Inria, avant d'ajouter "Le cadre de la Maison Irène et Frédéric Joliot-Curie, plateforme des acteurs français de l’enseignement supérieur, de la recherche et de l’innovation, située au cœur même du quartier européen de Bruxelles, nous offre un espace désormais bien identifié pour montrer les travaux des équipes françaises et échanger avec les instances communautaires et nos partenaires européens à Bruxelles".
Construire un dialogue entre la recherche et les autorités de régulation
Au travers de la prise de paroles d’experts tels que Nataliia Bielova, Stephan Lewandowsky, Jean Michel Loubes, Debabrota Basu, Erwan Le Merrer, Benoît Rottembourg, et de Luca Aguzzoni (Head of Market Investigations, DG Connect, Commission européenne), cette demi-journée de présentations de travaux scientifiques et d’échanges a ainsi permis de présenter les dernières avancées scientifiques et les confronter au retour d’expérience et aux attentes du régulateur européen face aux enjeux d’auditabilité des systèmes numériques et d’intelligence artificielle, de compréhension des risques liés aux plateformes en ligne, de l’équité des algorithmes ou encore du danger des « dark patterns ».
La table ronde finale a permis de mieux définir les modalités potentielles de coopération entre les scientifiques et le régulateur européen. Elle a notamment permis d’identifier les formes de collaboration scientifiques/régulateurs qui fonctionnent efficacement et les freins qui persistent parfois, entre ces univers aux temporalités très différentes. Parmi les freins identifiés, la difficulté à rassembler des profils multidisciplinaires – tels que juristes, économistes, cogniticiens, data scientists, informaticiens et web designers – au sein d'un même laboratoire, constitue un enjeu majeur. Le régulateur doit donc composer avec la nécessité de mobiliser des expertises variées. Une autre difficulté relevée est la cartographie des compétences et du vocabulaire entre les terminologies issues des problématiques du régulateur et les thèmes de recherche creusés par les scientifiques. Cet alignement n’est pas toujours aisé.
Dans les approches à succès, on peut relever le « plongement » de scientifiques, via un détachement long au sein d’une autorité par exemple, qui permet de capturer cette temporalité spécifique et de faire accoster les problématiques tout en confrontant les points de vue.
Enfin, l'accès aux données demeure un enjeu central, notamment en raison des contraintes liées au secret des affaires et aux mécanismes de protection ou d’opacité des plateformes. Les récents textes législatifs devraient cependant encourager une meilleure accessibilité à ces données, qui constituent une matière critique pour le chercheur.
Verbatim
Le sentiment qui se dégage de ce dialogue en construction entre l’univers de la recherche et celui des autorités en charge de la régulation, est qu’il est plus que jamais nécessaire dans un contexte où les « innovations » récentes en Intelligence Artificielle sont essentiellement issues du secteur privé et donc demande à être mieux appréhendées par le reste de la société. Comme l’a dit en paraphrasant l'un de nos intervenants « on ne peut réguler ce qu’on sait mesurer » auquel il a été ajouté « on ne peut réguler que ce qu’on peut comprendre ». Compte tenu des risques systémiques imaginables, il y a urgence à mesurer, comprendre et réguler".
Responsable du projet Regalia