Processing

Please wait...

Settings

Settings

Goto Application

1. WO2022011237 - SYSTEM AND METHOD FOR EVALUATING MACHINE LEARNING MODEL BEHAVIOR OVER DATA SEGMENTS

Publication Number WO/2022/011237
Publication Date 13.01.2022
International Application No. PCT/US2021/041052
International Filing Date 09.07.2021
IPC
G06N 20/00 2019.1
GPHYSICS
06COMPUTING; CALCULATING OR COUNTING
NCOMPUTER SYSTEMS BASED ON SPECIFIC COMPUTATIONAL MODELS
20Machine learning
G06N 3/08 2006.1
GPHYSICS
06COMPUTING; CALCULATING OR COUNTING
NCOMPUTER SYSTEMS BASED ON SPECIFIC COMPUTATIONAL MODELS
3Computer systems based on biological models
02using neural network models
08Learning methods
G06N 3/04 2006.1
GPHYSICS
06COMPUTING; CALCULATING OR COUNTING
NCOMPUTER SYSTEMS BASED ON SPECIFIC COMPUTATIONAL MODELS
3Computer systems based on biological models
02using neural network models
04Architecture, e.g. interconnection topology
CPC
G06N 20/00
GPHYSICS
06COMPUTING; CALCULATING; COUNTING
NCOMPUTER SYSTEMS BASED ON SPECIFIC COMPUTATIONAL MODELS
20Machine learning
G06N 20/20
GPHYSICS
06COMPUTING; CALCULATING; COUNTING
NCOMPUTER SYSTEMS BASED ON SPECIFIC COMPUTATIONAL MODELS
20Machine learning
20Ensemble learning
G06N 3/0454
GPHYSICS
06COMPUTING; CALCULATING; COUNTING
NCOMPUTER SYSTEMS BASED ON SPECIFIC COMPUTATIONAL MODELS
3Computer systems based on biological models
02using neural network models
04Architectures, e.g. interconnection topology
0454using a combination of multiple neural nets
G06N 5/041
GPHYSICS
06COMPUTING; CALCULATING; COUNTING
NCOMPUTER SYSTEMS BASED ON SPECIFIC COMPUTATIONAL MODELS
5Computer systems using knowledge-based models
04Inference methods or devices
041Abduction
Applicants
  • TRUERA, INC. [US]/[US]
Inventors
  • DATTA, Anupam
  • SEN, Shayak
  • GUPTA, Apoorv
  • KUROKAWA, David Sandai
Agents
  • PERDOK, Monique M.
  • BLACK, David W.
  • ARORA, Suneel
  • BIANCHI, Timothy E.
  • SCHEER, Bradley W.
  • BEEKMAN, Marvin L.
  • LANG, Roger
Priority Data
63/049,68909.07.2020US
Publication Language English (en)
Filing Language English (EN)
Designated States
Title
(EN) SYSTEM AND METHOD FOR EVALUATING MACHINE LEARNING MODEL BEHAVIOR OVER DATA SEGMENTS
(FR) SYSTÈME ET PROCÉDÉ D'ÉVALUATION DU COMPORTEMENT D'UN MODÈLE D'APPRENTISSAGE AUTOMATIQUE SUR DES SEGMENTS DE DONNÉES
Abstract
(EN) A computing machine receives a representation of a machine learning model, a representation of a first data segment, and a representation of a second data segment. The computing machine computes an output difference between an output of the machine learning model applied to the first data segment and an output of the machine learning model applied to the second data segment. The computing machine determines a set of reasons for the computed output difference based on a set of metrics defining distance between feature importance distributions, the set of reasons identifying a set of features from a feature vector of the machine learning model along with a relative contribution of each feature to the computed output difference. The computing machine provides an output representing the set of reasons.
(FR) Une machine informatique reçoit une représentation d'un modèle d'apprentissage automatique, une représentation d'un premier segment de données et une représentation d'un second segment de données. La machine informatique calcule une différence de sortie entre une sortie du modèle d'apprentissage automatique appliquée au premier segment de données et une sortie du modèle d'apprentissage automatique appliquée au second segment de données. La machine informatique détermine un ensemble de raisons pour la différence de sortie calculée sur la base d'un ensemble de mesures définissant une distance entre des distributions d'importance de caractéristiques, l'ensemble de raisons identifiant un ensemble de caractéristiques à partir d'un vecteur de caractéristiques du modèle d'apprentissage automatique conjointement avec une contribution relative de chaque caractéristique à la différence de sortie calculée. La machine informatique fournit une sortie représentant l'ensemble de raisons.
Latest bibliographic data on file with the International Bureau