Les « Grands Défis » sont des programmes publics d’investissement qui visent à développer des technologies et innovations de rupture à fort impact social et économique. Le Grand Défi « Sécuriser, fiabiliser et certifier des systèmes fondés sur l’intelligence artificielle » a pour objectif de construire les outils garantissant la confiance placée dans les produits et services intégrant l’intelligence artificielle (IA) et entend ainsi fournir un cadre « technique » à la future proposition de réglementation européenne sur l’IA.

Demain, les technologies d’IA de confiance seront au centre de la conception et de la production de produits et services majeurs et variés comme le véhicule autonome, l’aéronautique de dernière génération, l’industrie 4.0, l’énergie ou la défense. Doté d’un budget de 45 M€ sur la période 2021 – 2024, Confiance.ai ambitionne, grâce à un collectif de 13 partenaires industriels et académiques français majeurs, de créer une plateforme d’outils logiciels permettant l’intégration d’IA dans des produits ou services critiques, c’est-à-dire dont les accidents, les pannes ou les erreurs pourraient avoir des conséquences graves sur les personnes et les biens.

Confiance.ai mobilise l’expertise française en intelligence artificielle, mais aussi en ingénierie et en sureté de fonctionnement, pour offrir aux industriels des solutions leur permettant de développer de nouveaux produits et services à base d’IA de confiance, répondant ainsi à des enjeux majeurs autant sociétaux qu’en termes de compétitivité économique et de souveraineté.

Paris, le 1er juillet 2021

La question du fonctionnement sûr et fiable des logiciels est au coeur de nombreuses applications de tous les jours, qu’il s’agisse du transport (automobile, aviation, rail, etc.), des dispositifs de santé, des opérateurs d’intérêt vital. La diffusion rapide des logiciels d’intelligence artificielle (IA) dans tous les secteurs d’activité pose ainsi des questions spécifiques en termes de garanties sur leur « bon fonctionnement ». Que l’on pense à la sûreté d’une prise de décision « autonome » en temps réel comme pour le véhicule autonome, à des domaines ne tolérant pas l’erreur de décision (sécurité, justice, diagnostic de santé, etc.) ou à des attentes d’équité de traitement qui exigent la garantie que les traitements ne sont pas biaisés, la confiance placée dans les produits et services intégrant de l’IA doit ainsi impérativement être développée.

Dans le cadre du Grand Défi « sécuriser, certifier et fiabiliser les systèmes fondés sur l’intelligence artificielle » impulsé par l’État et dirigé par Julien Chiaroni (Secrétariat général pour l’investissement), le programme Confiance.ai réunit un collectif de 13 partenaires industriels et académiques français majeurs : Air Liquide, Airbus, Atos, Naval Group, Renault, Safran, Sopra Steria, Thales, Valeo, ainsi que le CEA, Inria, l’IRT Saint Exupéry et l’IRT SystemX .

Tous sont fédérés autour d’une même ambition et conjuguent leurs forces et leurs compétences pour industrialiser et intégrer de l’IA de confiance dans les futurs produits et services industriels critiques, c’est-à-dire dont les accidents, les pannes ou les erreurs pourraient avoir des conséquences graves sur les personnes et les biens. Le montage et le pilotage du programme ont été confiés à l’IRT SystemX.

« Ces développements technologiques sont un prérequis à une IA de confiance, éthique et responsable en France et en Europe. De par l’excellence de sa recherche en mathématiques, en intelligence artificielle, en ingénierie et en sûreté de fonctionnellement, la France dispose d’atouts indéniables pour relever ce défi. C’est sur la combinaison de l’ensemble de ces forces que capitalise le programme Confiance.ai. Il se propose ainsi d’apporter un « cadre » technique à la proposition de réglementation européenne sur l’IA », explique Julien Chiaroni, Directeur du Grand Défi IA de confiance au sein du Secrétariat général pour l’investissement.

Lors de l’événement de lancement du programme le 1er juillet qui s’est tenu dans le nouveau centre de R&D de Valeo dédié au véhicule autonome « Valeo Mobility Tech Center », Jean-Baptiste Djebbari, Ministre délégué chargé des Transports a déclaré : « La France se dote aujourd’hui d’un cadre réglementaire complet pour la circulation des véhicules autonomes : c’est une première en Europe. Et nous avons donc plus que jamais besoin d’une IA sûre, performante et homologable. C’est l’objectif de Confiance.ai, le plus grand programme R&T de la stratégie nationale en Intelligence Artificielle lancée par le Président de la République en 2018, financé à hauteur de 30M€ par le Programme d’investissements d’avenir. Je me réjouis que des industriels de différents secteurs collaborent à ce grand défi. » Cédric O, secrétaire d’Etat chargé de la Transition numérique et des Communications électroniques, a pour sa part salué les avancées de ce projet : « L’IA de confiance, c’est-à-dire l’IA pour les systèmes critiques, est aujourd’hui nécessaire dans de nombreux domaines comme la voiture autonome, l’aéronautique ou le spatial. L’avancée de ce chantier témoigne de la réussite de la Stratégie nationale pour l’intelligence artificielle et conforte la nécessité d’un investissement public dans les technologies de pointe. »

Concevoir une plateforme d’outils logiciels pour l’IA de confiance

Ce collectif multi-filière s’attachera, sur la période 2021 à 2024, à concevoir et à proposer un plateforme d’outils logiciels souveraine, ouverte, interopérable et pérenne permettant l’intégration de l’IA dans des produits et services critiques de manière sûre, fiable et sécurisé.

Dédiée à l’ingénierie des produits et services industriels innovants intégrant de l’intelligence artificielle, cette plateforme fournira des méthodes et des outils logiciels au service de la conception, de la validation, de la qualification, du déploiement et de la maintenance de produits et services à base d’intelligence artificielle. Elle vise ainsi à réduire les coûts de développement de ces produits et services tout en garantissant leur « bon » fonctionnement.

Les premiers secteurs d’application seront l’automobile, l’aéronautique, l’énergie, le numérique, l’industrie 4.0, la défense et le maritime, avec des cas d’applications variés comme le contrôle industriel en ligne, la mobilité autonome ou les systèmes d’aide à la décision.