L’explicabilité en IA désigne la capacité de décrire, en termes compréhensibles, comment un système d’IA a atteint un résultat ou une décision particulier.
De nombreux modèles d’IA sont difficiles à interpréter. L’explicabilité est la plus importante dans les contextes à enjeux élevés comme les décisions de crédit, le diagnostic médical ou les procédures judiciaires.