(EN) A computing machine receives a representation of a machine learning model, a representation of a first data segment, and a representation of a second data segment. The computing machine computes an output difference between an output of the machine learning model applied to the first data segment and an output of the machine learning model applied to the second data segment. The computing machine determines a set of reasons for the computed output difference based on a set of metrics defining distance between feature importance distributions, the set of reasons identifying a set of features from a feature vector of the machine learning model along with a relative contribution of each feature to the computed output difference. The computing machine provides an output representing the set of reasons.
(FR) Une machine informatique reçoit une représentation d'un modèle d'apprentissage automatique, une représentation d'un premier segment de données et une représentation d'un second segment de données. La machine informatique calcule une différence de sortie entre une sortie du modèle d'apprentissage automatique appliquée au premier segment de données et une sortie du modèle d'apprentissage automatique appliquée au second segment de données. La machine informatique détermine un ensemble de raisons pour la différence de sortie calculée sur la base d'un ensemble de mesures définissant une distance entre des distributions d'importance de caractéristiques, l'ensemble de raisons identifiant un ensemble de caractéristiques à partir d'un vecteur de caractéristiques du modèle d'apprentissage automatique conjointement avec une contribution relative de chaque caractéristique à la différence de sortie calculée. La machine informatique fournit une sortie représentant l'ensemble de raisons.
