La solution Open Source Shapash développée par la MAIF, a pour ambition de rendre le recours aux algorithmes plus transparent et de contribuer ainsi à une utilisation éthique de la data.
Retrouvez-nous le 15 juin à 12h30 pour un temps d’échange autour de cette solution et de l’intérêt de travailler à rendre nos algorithmes explicables et compréhensibles par tous.
Shapash, c’est une surcouche à d’autres librairies d’intelligibilité (Shap, Lime) qui :
Affiche des résultats intelligibles grâce à un wording et des visualisations simples, adaptés à un large public.
Propose une interface qui facilite l’exploration des différentes features d’un modèle et permet la navigation entre explicabilité globale et locale. Cette interface est particulièrement utile pour animer des ateliers métiers et répondre en séance aux questions sur le fonctionnement du modèle de ML.
Permet de résumer l’explicabilité locale pour la rendre utile dans un contexte opérationnel. Ce résumé est paramétrable pour s’adapter à différents cas d’usage, et peut être exporté.
Est ouverte ! Shapash s’utilise pour des problématiques de Régression, Classification et se veut compatible avec une multitude de librairies de Machine Learning, d’encoding de features (encoding inverse), utilisable avec des contributions calculées par Lime, Shap, …
C’est aussi un outil utile à une Gouvernance de l’IA car il :
Permet au Data Scientist de documenter chaque étape préalable au déploiement du modèle.
Génère un rapport html « standalone » qui constitue la base d’un document d’audit.
Une navigation simplifiée table des matières / menus.
Possibilité d’adapter son template à ses propres besoins internes.
Permet de standardiser les livrables au sein de votre organisation.
Compréhensible par tous : Bénéficie des fonctionnalités de Wording déjà disponibles.
