Interview de Fabien Le Voyer – Directeur adjoint du programme en matière d’intelligence artificielle à Inria (PNRIA)
Vous avez vu naître Confiance.ai. Quel regard portez-vous sur les résultats obtenus par rapport aux ambitions initiales de la SNIA ?
Fabien Le Voyer : En effet, j’ai suivi à l’époque, depuis Bercy, la genèse de Confiance.ai, ambitieux programme porté par Julien Chiaroni dans le cadre du Grand Défi sur la fiabilisation des systèmes critiques. Ce programme a apporté des résultats sur trois volets et a permis :
- D’identifier les caractéristiques de confiance d’un ensemble de systèmes critiques utilisés dans l’industrie et par approche en cas d’usage de définir et déployer un ensemble de modules visant à réviser les ingénieries données et les ingénieries systèmes dans un stade de développement du système
- De fédérer un ensemble d’acteurs large au niveau national (entreprises, start-ups, PME, académiques) mais également plus largement connaît un rayonnement international (coopérations bilatérales, labels, etc.) notamment scientifique qui va bien au-delà du programme
- De poser un certain nombre de concepts, de notions, de les définir, pour certaines au niveau de la norme, qui sont un point d’avancée important pour d’autres programmes, par exemple sur l’évaluation des systèmes d’IA avec une approche « boîte noire » (en complémentarité d’une approche en développement, donc) sur lequel nous sommes attendus par les autorités publiques.
Comment envisagez-vous l’articulation entre l’Agence de Programmes Numérique, les algorithmes, logiciels et les futures étapes de Confiance.ai?
Fabien Le Voyer : L‘Agence de programme Numérique au sens algorithmes, logiciels et usages, portée par Inria, a un rôle de coordination afin de bâtir une feuille de route stratégique en s’appuyant sur l’intelligence collective de notre écosystème de recherche, d’enseignement supérieur et d’innovation. Confiance.ai participe déjà activement à une action de prospective de l’Agence : la rédaction d’un policy paper CyberSécurité spécifique de l’apprentissage automatique, qui permet d’identifier les attaques existantes et les contre-mesures nécessaires pour y faire face. Le futur offrira de nombreuses opportunités de coopération avec l’Agence, au sein du programme IA notamment, en fonction des étapes de Confiance.IA, et de sa contribution par exemple en matière d’évaluation.
En savoir plus sur les résultats du programme Confiance.ai :
