TAILOR : un réseau européen pour des IA fiables

L'IA au cœur d'une coopération scientifique inédite

Comment gagner la confiance des utilisateurs dans les systèmes d'intelligence artificielle (IA) ? Telle est la question majeure qui anime la communauté scientifique européenne engagée dans TAILOR : Foundations of Trustworthy AI -Integrating Reasoning, Learning and Optimization. « L’objectif est de faire émerger des idées et des solutions nouvelles dans le domaine de l’IA de confiance en favorisant les échanges, les rencontres et les collaborations inédites entre chercheurs », résume Marc Schœnauer, directeur de recherche en charge de l’IA à Inria et responsable de l’équipe TAU. Conférences, workshops, écoles d’été mais aussi challenges et hackatons rythment ainsi la vie du réseau. Lancé en septembre 2020 et piloté par l’Université de Linköping (Suède), TAILOR réunit des experts de l’IA neurosymbolique, de l’IA de confiance ou encore des systèmes multiagents, des industriels ainsi que quatre équipes d'Inria : LACODAM, MULTISPEECH, ORPAILLEUR et TAU. Le projet rassemble pas moins de 55 partenaires européens de 21 pays différents. « La coopération européenne permet non seulement de trouver de nouvelles solutions mais aussi de proposer des conditions favorables aux jeunes talents et de lutter contre la fuite des cerveaux. »

Développer des IA fiables

La principale thématique de recherche réunissant les partenaires de TAILOR concerne le développement d’une IA de confiance (Trustworthy AI). Plusieurs facteurs – qui sont autant d’axes de travail pour les chercheurs – caractérisent une IA de confiance : il s’agit d’une IA robuste, transparente et explicable, équitable et non discriminante, respectueuse des données privées, responsable et impactant positivement la société.

Le développement d’une IA de confiance est un prérequis indispensable à la présence de machines intelligentes dans nos vies. « Si les systèmes sont opaques, biaisés, facilement perturbés par des bruits ou attaqués et que leurs résultats ne sont pas explicables, il est impossible que la société accepte les IA, insiste Marc Schœnauer. Idem pour l’économie : aucun industriel ne va se jeter à corps perdu sur une technologie à laquelle il ne fait pas confiance. Or, le transfert vers l’industrie est un enjeu majeur pour éviter d’être complétement dépendant des États-Unis ou de la Chine. Sur les grandes plates-formes de recherche c’est trop tard, mais nous pouvons encore tirer notre épingle du jeu dans des secteurs comme la santé ou la logistique. »

Learning ou reasoning ?

« Tout le monde travaille sur l’IA de confiance aujourd’hui, poursuit le chercheur. La particularité de TAILOR est de se concentrer sur l’approche dite hybride, combinant, grâce à l’optimisation (optimization), l’approche symbolique (reasoning) et l’approche subsymbolique ou numérique (learning). »

Historiquement, les deux écoles se sont longtemps opposées. Populaire dans les années soixante, l’IA symbolique consiste à simuler le raisonnement humain par une suite d’opérations logiques. Basée sur le principe d’apprentissage (machine learning), l’IA numérique s’est surtout développée dans les années 2010 avec l’augmentation des volumes de données et la puissance des machines qui ont rendu possible l’avènement du deep learning. « L’IA numérique réagit mieux aux "bruits" et à l’incertitude mais elle souffre encore de défaut d’explicabilité et de manque de certifications : c’est là que l’IA symbolique peut revenir dans le jeu » explique Marc Schœnauer.

Inria en charge de la roadmap et des challenges

Spécialistes du natural language processing (NLP), de la prévision de série chronologique (Time-Series Prediction), de la causalité (causal modelling) ou encore des réseaux de neurones, sept chercheurs d'Inria s'impliquent dans différents défis scientifiques de TAILOR (WP 3, WP4, WP5, WP6, WP7). « Je suis par ailleurs responsable de l’un de ces axes transverses, le WP2, qui comprend deux volets, complète Marc Schœnauer. D’abord, la création d’une feuille de route stratégique (roadmap) qui vise à prioriser, à l’échelle européenne, les actions de recherche, de formation et de transfert vers l’industrie. Le second volet porte sur l’organisation de challenges sur la plate-forme Codalab, coordonnée par Isabelle Guyon, de l’équipe TAU. Ces "compétitions" et autres hackatons sont importants pour déterminer quel algorithme est le plus adapté pour résoudre un problème donné. »

Quatre réseaux européens pour une recherche d’excellence en IA

Avec ELISE, HumanE-AI et AI4Media, TAILOR est l’un des quatre réseaux européens financés dans le cadre de l’appel à projets Horizon 2020 Towards a vibrant European network of AI excellence centres. Son objectif : permettre à l’Europe « d’accroître ses capacités de recherche existantes […] en favorisant la coopération entre les meilleures équipes de recherche pour relever plus efficacement les grands défis scientifiques et technologiques de l'IA qui entravent le déploiement de solutions basées sur l'IA ». Derrière cette ambition, l’Europe entend garantir son autonomie stratégique dans « le domaine technologique critique qu’est l’IA ».