Processing

Please wait...

PATENTSCOPE will be unavailable a few hours for maintenance reason on Tuesday 27.07.2021 at 12:00 PM CEST
Settings

Settings

Goto Application

1. WO2020136264 - METHOD FOR GENERATING AN ADVERSARIAL EXAMPLE FOR A MACHINE LEARNING MODEL, AND ASSOCIATED ROBUSTIFICATION METHOD, GENERATION DEVICE AND COMPUTER PROGRAM PRODUCT

Publication Number WO/2020/136264
Publication Date 02.07.2020
International Application No. PCT/EP2019/087106
International Filing Date 27.12.2019
IPC
G06N 3/04 2006.1
GPHYSICS
06COMPUTING; CALCULATING OR COUNTING
NCOMPUTER SYSTEMS BASED ON SPECIFIC COMPUTATIONAL MODELS
3Computer systems based on biological models
02using neural network models
04Architecture, e.g. interconnection topology
G06N 3/08 2006.1
GPHYSICS
06COMPUTING; CALCULATING OR COUNTING
NCOMPUTER SYSTEMS BASED ON SPECIFIC COMPUTATIONAL MODELS
3Computer systems based on biological models
02using neural network models
08Learning methods
CPC
G06N 3/08
GPHYSICS
06COMPUTING; CALCULATING; COUNTING
NCOMPUTER SYSTEMS BASED ON SPECIFIC COMPUTATIONAL MODELS
3Computer systems based on biological models
02using neural network models
08Learning methods
Applicants
  • THALES [FR]/[FR]
Inventors
  • ADDAD, Boussad
  • KODJABACHIAN, Jérôme
Agents
  • HABASQUE, Etienne
  • BLOT, Philippe
  • COLOMBIE, Damien
  • DOMENEGO, Bertrand
  • NEYRET, Daniel
  • HOLTZ, Béatrice
Priority Data
187421327.12.2018FR
Publication Language French (FR)
Filing Language French (FR)
Designated States
Title
(EN) METHOD FOR GENERATING AN ADVERSARIAL EXAMPLE FOR A MACHINE LEARNING MODEL, AND ASSOCIATED ROBUSTIFICATION METHOD, GENERATION DEVICE AND COMPUTER PROGRAM PRODUCT
(FR) PROCÉDÉ DE GÉNÉRATION D'UN EXEMPLE ADVERSAIRE POUR UN MODÈLE D'APPRENTISSAGE AUTOMATIQUE, PROCÉDÉ DE ROBUSTIFICATION, DISPOSITIF DE GÉNÉRATION ET PROGRAMME PRODUIT ORDINATEUR ASSOCIÉS
Abstract
(EN)
The invention concerns a method for generating at least one adversarial example for a machine learning model. The generation method comprises the following steps: - defining a variation function of a piece of initial input data defining a plurality of pieces of modified input data; - defining a directional constraint on the variation function such that the difference between at least one component of each piece of modified input data and the component corresponding thereto of the piece of initial input data is of a predetermined sign; and - generating a plurality of pieces of modified input data; - generating the adversarial example maximising the probability that a modified prediction is different to an initial prediction. Figure for the abstract: Figure
(FR)
L'invention concerne un procédé de génération d'au moins un exemple adversaire pour un modèle d'apprentissage automatique. Le procédé de génération comprend les étapes suivantes: - définition d'une fonction de variation d'une donnée d'entrée initiale définissant une pluralité de données d'entrée modifiées; - définition d'une contrainte de direction à la fonction de variation de sorte que la différence entre au moins une composante de chaque donnée d'entrée modifiée et la composante lui correspondant de la donnée d'entrée initiale soit de signe prédéterminé; et - génération d'une pluralité de données d'entrée modifiées; - génération de l'exemple adversaire maximisant la probabilité qu'une prédiction modifiée soit différente d'une prédiction initiale.
Also published as
Latest bibliographic data on file with the International Bureau