Le programme Confiance.ai au service de la réglementation européenne sur l’intelligence artificielle
Un programme de R&D industrielle ambitieux en intelligence artificielle
Confiance.ai est un programme de recherche technologique français visant à permettre aux industriels l’intégration de l’IA de confiance dans leur systèmes critiques.
Pilier technologique du Grand Défi « Sécuriser, certifier et fiabiliser les systèmes fondés sur l’intelligence artificielle » lancé par l’État dans le cadre de France2030, Confiance.ai est né de l’ambition de faire de la France un des pays leader de l’industrialisation de l’IA de confiance.
Les travaux de Confiance.ai ont permis, par leur ampleur, de travailler sur de nombreuses problématiques de l’IA de confiance et de faire émerger des solutions logicielles et méthodologiques. Confiance.ai couvre un large périmètre, depuis les problématiques de qualité et de risque jusqu’aux problématiques de robustesse et d’embarquabilité.
Une nouvelle réglementation européenne
Le règlement européen sur l’intelligence artificielle, ou AI Act, est une “législation produit” de l’Union européenne visant à réguler les systèmes/produits d’IA commercialisés sur le marché européen, en fournissant aux opérateurs impliqués dans la chaîne de l’IA (développeurs/fournisseurs, importateurs, distributeurs, fabricants, utilisateurs) un cadre juridique visant à parer les risques sur la santé, la sécurité et les droits fondamentaux que peut apporter cette technologie.
Ce règlement repose sur une approche dite “par les risques” dépendant de l’usage et de la finalité prévue du système d’IA – et non de la technologie. Quatre niveaux de risque sont prévus par l’AI Act, en plus des risques liés à l’IA générative.
Le règlement prévoit des exigences claires, une évaluation de la conformité avant que le système d’IA soit mis en service ou commercialisé, ainsi qu’une application de la réglementation après sa mise sur le marché. Enfin, une structure de gouvernance aux niveaux européen et national est établie.
L’AI Act a été publié au journal officiel en juillet 2024.
Des points de vue qui se nourrissent
Les travaux de Confiance.ai sont ainsi rendus d’autant plus importants par la réglementation européenne qui nécessite des solutions technologiques pour être d’abord comprise, puis respectée. Le lien entre la réglementation et les travaux technologiques de Confiance.ai se fait en particulier au travers de la standardisation. La standardisation, par nature ouverte à tous, offre un cadre technique aligné sur la réglementation.
Le document « Le programme Confiance.ai au service de la réglementation européenne sur l’intelligence artificielle » détaille le lien entre Confiance.ai et la réglementation européenne, lien qui a été progressivement renforcé par des actions transverses durant les quatre années du programme Confiance.ai.
