Portrait de Martin Gonzalez – Responsable du projet Robustesse, Incertitude et monitoring

Pouvez-vous vous présenter ainsi que votre parcours ?

Martin Gonzalez : Je suis ingénieur chercheur à l’IRT SystemX où je travaille autour d’un certain nombre de chantiers liés à la robustesse, l’incertitude et l’IA générative. J’applique ses résultats au sein de nos différents projets tout en avançant en parallèle sur des questions à caractère plus scientifique, en particulier liées aux modèles de diffusion. Mais, mon parcours de recherche a commencé ailleurs : je suis docteur en mathématiques pures à Paris 6 (aujourd’hui Sorbonne Université) en soutenant une thèse sur un sujet mêlant algèbre quantique, géométrie algébrique et différentielle et théorie combinatoire des nombres. Mes travaux de doctorat ont été utilisés pour développer de nouvelles méthodes de calcul des amplitudes de diffusion en théorie des supercordes. J’ai ensuite été post-doctorant à l’Institut Max-Planck de mathématiques (Bonn) dans l’équipe de Don Zagier, et à l’Université du Luxembourg au moment où j’ai décidé de basculer vers l’IA. Puis, j’ai été recruté à l’IRT SystemX en 2022 comme post-doctorant pour le programme Confiance.ai et ce n’est qu’à partir de là que j’ai véritablement pris conscience des enjeux scientifiques et industriels du ML, ce qui m’a incité à rester pour travailler sur ce sujet. On pourrait dire que je suis un des fruits de ce programme d’une certaine manière.

Comment caractériseriez-vous l’IA de confiance ?

Martin Gonzalez : Pour moi, l’IA de confiance est une IA dotée d’un concept de “preuve”, c’est à dire une logique discursive démonstrative particulière, garantissant sa qualification. Une telle garantie se rapporte directement à ses usages et convoque, pour chacun de ces derniers, un ensemble adapté et multiforme d’aspects technologiques, d’interaction humain-machine et humains (culturels, socio-économiques, …). Ainsi, il y a différentes manières d’apporter une « preuve” d’une telle IA, chacune rassemblant une intrication riche et hétérogène de ce que preuve veut dire selon diverses disciplines (mathématique, juridique, systémique, etc.).

Vous avez la responsabilité du projet Robustesse-Incertitude-Monitoring dans le cadre de Confiance.ai. En quoi il consiste ? Quelles sont les finalités ?

Martin Gonzalez : L’objectif de ce projet est de comprendre comment Robustesse, Incertitude et Monitoring se renforcent mutuellement. Depuis le début du programme Confiance.ai, il s’est avéré que ces trois axes, pourtant distincts vis-à-vis de leurs disciplines, n’ont qu’une autonomie relative par rapport aux deux autres. Dans un composant d’IA, l’absence totale d’un de ces axes affaiblit la capacité des techniques développées à adresser les attributs qu’on voudrait qu’elles adressent. Par exemple, sans monitoring, une méthode de défense adverse basée diffusions, peut effacer des anomalies qu’on voudrait pourtant détecter et n’adresse plus des critères de robustesse, initialement conçus, en l’absence de ces anomalies. Notre finalité est de déterminer et de mesurer ces cas de figure pour aider à une meilleure caractérisation de l’Operational Design Domain (ODD) du composant et ainsi permettre de mieux le qualifier. Du point de vue processus, cela éclaircit aussi les rôles et tous ces aspects du point du cycle de vie du composant, allant du choix d’architectures neuronales au monitoring du composant en déploiement, en parallèle du cycle de vie des données.

Racontez-nous ce qui vous motive dans le fait de travailler sur le programme Confiance.ai Qu’appréciez-vous le plus ?

Martin Gonzalez : Ce qui me motive, dans ce programme, est la manière unique dont est abordée la notion de confiance. Le programme s’appuie sur les succès obtenus au cours des quatre dernières années pour continuer à avancer et persévérer, tout en étant conscient que c’est un travail de longue haleine. Cela ne va pas de soi ! Si nous cherchons à pérenniser ces résultats, c’est parce que nous croyons fermement que les avancées réalisées pendant les quatre ans du programme ont contribué à une meilleure compréhension du défi de la confiance. En résumé, il s’agit d’une confiance ancrée dans le présent, fondée sur notre travail collectif et sur des réussites tangibles, qui servent de base pour poursuivre ce long travail et relever ce défi.

Cette approche contraste avec l’image répandue d’un jeu de chat et de souris, où chaque nouvelle technologie avance avec une fiabilité incertaine et, sans une ligne directrice claire sur ce qu’on peut réellement en attendre, finit par être remise en question. Cela est particulièrement visible en ce qui concerne la robustesse face à l’adversité, que ce soit pour les technologies de 2014 ou celles de 2024.