Les éclairages de l’IA#5 : Model vs Data Validation ou comment avoir confiance dans l’IA ?

Animé par Philippe Wieczorek, Directeur R&D et Innovation, Minalogic Interventions de Marie-Christine Rousset, Professeur à l'Université de Grenoble Alpes, membre du LIG, et co-responsable de la chaire Explainable and Responsible AI de l'institut MIAI & Arnault Ioualalen, CEO and R&D director at Numalis En programmation traditionnelle, on avait coutume d’utiliser la mathématique et les méthodes formelles pour prouver que les applications critiques se comportaient comme escompté. Avec l’Intelligence Artificielle, le moteur d’inférence peut très bien ne comporter aucun bogue et s’exécuter comme il se doit, mais que le résultat ne soit pas celui attendu. En effet, les données qui ont servi à "éduquer" l’IA peuvent très bien introduire un biais cognitif. Tout comme on aurait pu induire en erreur un enfant en lui donnant de mauvaises bases de raisonnement, une IA peut très bien reconnaitre des chats en analysant des images de chiens, si on lui a appris à reconnaitre les félins comme des "chiens". Se pose alors la question de comment valider qu’une IA aura le comportement attendu dans tous les cas de figure ? Et la question sous-jacente : comment avoir confiance en une IA ? Ce sont les questions auxquelles nous tenterons de répondre au cours de ce webinaire. Organisé par MIAI et Minalogic, avec le soutien de la Région Auvergne Rhône-Alpes, de la Direccte Auvergne Rhône-Alpes et en partenariat avec Digital League et Lyon is AI, ce webinaire est le 5ème d’une série de rendez-vous mensuels dans le cadre de nos actions d’animation de la communauté IA en Région.