Régulation des plates-formes numériques : le gouvernement français prend les devants

Les plates-formes numériques sont devenues essentielles à notre vie quotidienne et à l'économie mondiale. Pourtant, à mesure que celles-ci se développent et gagnent en puissance dans de nombreux secteurs, leurs pratiques interrogent et soulèvent de nouvelles questions réglementaires spécifiques.

Un constat qui fait écho à la problématique de la souveraineté numérique des États, et qui a poussé les législateurs et autres autorités du monde entier à envisager de faire évoluer les réglementations existantes, pour s’adapter au mieux aux défis que ces nouvelles plates-formes apportent.

Parmi les États les plus actifs sur le sujet : la France. Alors que la Commission européenne publiait le 15 décembre 2020 les projets de texte Digital Services Act (DSA) et Digital Markets Act (DMA), dont l’objectif est de réguler les plates-formes numériques, l’Hexagone prenait les devants deux mois et demi plus tôt en créant le PEReN, le "Pôle d'expertise de la régulation numérique".

Cette cellule, lancée à l’initiative de la DGE en septembre 2020, a l’originalité d’être rattachée à trois membres du gouvernement : la ministre de la Culture Roselyne Bachelot, le ministre de l'Économie Bruno Le Maire et le secrétaire d'État au Numérique Cédric O. Son objectif : développer des méthodes et algorithmes pour soutenir les services de l’État, des ministères (économie, culture, transport, logement notamment) aux autorités indépendantes (Autorité de la concurrence, ARCEP, CSA, CNIL, Défenseur des droits, etc.), dans la surveillance des algorithmes et des pratiques des plates-formes numériques.

L’action du PEReN repose, en grande partie, sur la mobilisation d’expertises pointues et sur l’utilisation de technologies logicielles. Plus concrètement, l’équipe derrière le PEReN, aujourd’hui composée d'onze personnes, principalement des data scientists, fait d’une part un travail de recherche et d’anticipation autour de ces plates-formes, en réalisant des "preuves de concept" (POC), des démonstrateurs, afin de voir ce qu’il est réellement possible de faire pour créer un cadre réglementaire sain, mais a également un rôle d’appui et d’aide à la décision sur des dossiers à la demande des services de l’État, pour permettre à ceux-ci d’agir, ensuite, de la meilleure des manières auprès des plates-formes.

Nicolas Deffieux, directeur du PEReN, précise : « Le PEReN écrit du code, analyse des données, mais fournit aussi une expertise pour aider à la conception du cadre de régulation. On voit ce qu’il est possible de faire dans le cadre actuel et on voit dans le même temps les limites éventuelles. »

En travaillant concrètement sur ces outils et cette régulation, on voit ce qui pourrait faire l’objet d’améliorations dans le cadre juridique. 

Et éviter parfois toute poussée réglementaire prématurée et non adaptée. « Par exemple, dans la réflexion sur les obligations d’interopérabilité qui pourraient être imposées aux grandes plates-formes numériques, notre rôle est de montrer ce qu’il est possible de faire techniquement ou non, en mettant en garde sur les risques qu’il peut y avoir dans certains cas, que ce soit des risques de sécurité, ou un frein à l’innovation », ajoute-t-il.

La feuille de route du PEReN, présentée fin 2020 en partenariat avec les différents services de l’État, a été soumise à l’approbation des ministres en début d’année. Au total, la cellule interministérielle compte une vingtaine de projets, parmi lesquels l’audit en boîte noire des algorithmes, les outils de détection des phénomènes de viralité, la collecte automatisée de données, des discussions sur le DMA et le DSA, ou encore la création d’une plate-forme liée aux demandes entrantes des communes dans le cadre de la loi ELAN. L’équipe du PEReN, elle, devrait atteindre les vingt personnes d’ici fin 2021.

Dans le cadre de son objectif d’appui aux politiques publiques, établi dans le COP 2019-2023, Inria a décidé de lancer un projet-pilote, appelé Regalia, pour venir en appui du PEReN sur ce sujet.

Le projet-pilote Regalia a pour missions, entre autres, de développer une plate-forme technologique, sur le sujet de la régulation numérique, de participer en tant que de besoin aux expertises menées par PEReN, de mobiliser des expertises scientifiques et technologiques, internes à Inria, ou dans le cadre de partenariats, en appui du PEReN, ou encore d’opérer des actions sur le sujet de l’IA de confiance au sein du Centre d’expertise de Paris que porte Inria au titre de la participation française au GPAI (General Partnership on AI).

« Ce partenariat avec Inria nous permet de regarder ce qui se fait en recherche, sur l’IA par exemple, et voir comment ces outils à la pointe peuvent être concrètement utilisables par les autorités de régulation ou les services de l’État », explique Nicolas Deffieux, avant d’ajouter « cela nous apporte une dimension scientifique et académique qu’on n’aurait pas seuls. On monte en complexité, on s’éloigne de la mise en œuvre concrète pour aller vers de la recherche plus pointue. »

« Surveiller un algorithme "en boîte noire", pour détecter s’il est biaisé ou s’il favorise certains types de produits auprès de certaines catégories d’utilisateurs est, en effet, un sujet complexe », précise Benoit Rottembourg, responsable du projet Regalia. D’une part, il faut s’assurer que les tests effectués n’abîment pas la plate-forme, en perturbant son service, par exemple, ou en biaisant ses propres données. Il faut également s’assurer que ces tests sont représentatifs de situations réelles, et enfin éviter que la plate-forme ne puisse deviner que les requêtes sont anormales et se comporter, en conséquence, anormalement. L’audit d’algorithmes en ligne, "dans leur contexte", est donc contraint par une exigence de frugalité : il faut à la fois explorer de manière large mais intensifier ses questions sur les zones d’intérêt où l’on a le plus de chances de détecter un comportement anormal. Cela appartient à des classes de problèmes difficiles mathématiquement et nécessite une bonne compréhension des contextes d’usage et de leur spécificité.

Nous ne pensons pas qu’il soit possible de fabriquer une machine universelle à auditer les algorithmes, cela me semble très candide comme vision, explique Benoit Rottembourg.

En cause : des questions à auditer trop variées, des données accessibles trop dépendantes du contexte, ou encore des modèles économiques très divers et une palette d’algorithmes à tester non seulement inépuisable mais mouvante, ces algorithmes s’auto-évaluant et s’améliorant en permanence au contact des clients et utilisateurs.

Le partenariat entre Inria et PEReN, au travers de Regalia, a ainsi pour objectif de s’appuyer sur les travaux et expertises de l’institut pour générer des sujets de recherche focalisés sur les problématiques les plus pointues, tout en se nourrissant de l’expertise métier et des cas d’usage des autorités de régulation. « Il y a 3000 agents à la DGCCRF, et chevronnés quant aux manières d’abuser le consommateur. On ne peut pas imaginer auditer des algorithmes parmi les plus pointus de la Deep Tech, fabriqués par la fine fleur de l’IA mondiale sans y mettre un peu de jus de cerveau mathématique couplé avec une dose de flair humain. C’est tout l’enjeu du partenariat », conclut le responsable du projet Regalia.