Traitement en cours

Veuillez attendre...

Paramétrages

Paramétrages

Aller à Demande

1. WO2020242767 - UTILISATION DE MÉTAMODÉLISATION PERMETTANT UNE OPTIMISATION HYPERPARAMÉTRIQUE RAPIDE ET PRÉCISE DE MODÈLES D'APPRENTISSAGE MACHINE ET D'APPRENTISSAGE PROFOND

Numéro de publication WO/2020/242767
Date de publication 03.12.2020
N° de la demande internationale PCT/US2020/032774
Date du dépôt international 14.05.2020
Demande présentée en vertu du Chapitre 2 30.03.2021
CIB
G06N 20/20 2019.1
GPHYSIQUE
06CALCUL; COMPTAGE
NSYSTÈMES DE CALCULATEURS BASÉS SUR DES MODÈLES DE CALCUL SPÉCIFIQUES
20Apprentissage automatique
20Techniques d’ensemble en apprentissage automatique
G06N 5/00 2006.1
GPHYSIQUE
06CALCUL; COMPTAGE
NSYSTÈMES DE CALCULATEURS BASÉS SUR DES MODÈLES DE CALCUL SPÉCIFIQUES
5Systèmes de calculateurs utilisant des modèles basés sur la connaissance
G06N 7/00 2006.1
GPHYSIQUE
06CALCUL; COMPTAGE
NSYSTÈMES DE CALCULATEURS BASÉS SUR DES MODÈLES DE CALCUL SPÉCIFIQUES
7Systèmes de calculateurs basés sur des modèles mathématiques spécifiques
G06N 3/08 2006.1
GPHYSIQUE
06CALCUL; COMPTAGE
NSYSTÈMES DE CALCULATEURS BASÉS SUR DES MODÈLES DE CALCUL SPÉCIFIQUES
3Systèmes de calculateurs basés sur des modèles biologiques
02utilisant des modèles de réseaux neuronaux
08Méthodes d'apprentissage
CPC
G06N 20/00
GPHYSICS
06COMPUTING; CALCULATING; COUNTING
NCOMPUTER SYSTEMS BASED ON SPECIFIC COMPUTATIONAL MODELS
20Machine learning
G06N 20/20
GPHYSICS
06COMPUTING; CALCULATING; COUNTING
NCOMPUTER SYSTEMS BASED ON SPECIFIC COMPUTATIONAL MODELS
20Machine learning
20Ensemble learning
G06N 3/084
GPHYSICS
06COMPUTING; CALCULATING; COUNTING
NCOMPUTER SYSTEMS BASED ON SPECIFIC COMPUTATIONAL MODELS
3Computer systems based on biological models
02using neural network models
08Learning methods
084Back-propagation
G06N 5/003
GPHYSICS
06COMPUTING; CALCULATING; COUNTING
NCOMPUTER SYSTEMS BASED ON SPECIFIC COMPUTATIONAL MODELS
5Computer systems using knowledge-based models
003Dynamic search techniques; Heuristics; Dynamic trees; Branch-and-bound
G06N 5/022
GPHYSICS
06COMPUTING; CALCULATING; COUNTING
NCOMPUTER SYSTEMS BASED ON SPECIFIC COMPUTATIONAL MODELS
5Computer systems using knowledge-based models
02Knowledge representation
022Knowledge engineering; Knowledge acquisition
G06N 7/005
GPHYSICS
06COMPUTING; CALCULATING; COUNTING
NCOMPUTER SYSTEMS BASED ON SPECIFIC COMPUTATIONAL MODELS
7Computer systems based on specific mathematical models
005Probabilistic networks
Déposants
  • ORACLE INTERNATIONAL CORPORATION [US]/[US]
Inventeurs
  • MOHARRER, Ali
  • VARADARAJAN, Venkatanathan
  • IDICULA, Sam
  • AGRAWAL, Sandeep
  • AGARWAL, Nipun
Mandataires
  • MILLER, Brian N.
  • BINGHAM, Marcel K.
  • MADRAK, Jeffrey R.
  • YANG, Cato
  • STONE, Adam C.
  • LIU, Agatha H.
  • HICKMAN, Brian D.
  • ORICH, Christine E.
  • PALERMO, Christopher J.
  • LEDESMA, Daniel D.
  • BECKER, Edward A.
  • KARLIN, Elliot H.
  • MILLER, Kevin W.
  • PAPANYAN, Khachatur V.
  • KULCZYCKA, Malgorzata A.
  • BASSETT, Sarah S.
  • WANG, Tina T.
  • MCGUIRE, John
  • GELBLUM, Michael
  • KANZAKI, Kim
  • BAGGALEY, Nicholas
  • CHENG, Charles
  • HUTCHINS, Eric
  • KOCIALSKI, Molly
  • NICHOLES, Chris
  • SUTTON, Eric
  • WEBER, Rick
  • DENDORFER, Claus
Données relatives à la priorité
16/426,53030.05.2019US
Langue de publication Anglais (en)
Langue de dépôt anglais (EN)
États désignés
Titre
(EN) USING METAMODELING FOR FAST AND ACCURATE HYPERPARAMETER OPTIMIZATION OF MACHINE LEARNING AND DEEP LEARNING MODELS
(FR) UTILISATION DE MÉTAMODÉLISATION PERMETTANT UNE OPTIMISATION HYPERPARAMÉTRIQUE RAPIDE ET PRÉCISE DE MODÈLES D'APPRENTISSAGE MACHINE ET D'APPRENTISSAGE PROFOND
Abrégé
(EN) Herein are techniques that train regressor(s) to predict how effective would a machine learning model (MLM) be if rained with new hyperparameters and/or dataset. In an embodiment, for each training dataset, a computer derives, from the dataset, values for dataset metafeatures. The computer performs, for each hyperparameters configuration (HC) of a MLM, including landmark HCs: configuring the MLM based on the HC, training the MLM based on the dataset, and obtaining an empirical quality score that indicates how effective was said training the MLM when configured with the HC. A performance tuple is generated that contains: the HC, the values for the dataset metafeatures, the empirical quality score and, for each landmark configuration, the empirical quality score of the landmark configuration and/or the landmark configuration itself. Based on the performance tuples, a regressor is trained to predict an estimated quality score based on a given dataset and a given HC.
(FR) La présente invention concerne des techniques qui permettent d'entraîner un ou plusieurs prédicteur(s) pour prédire le niveau d'efficacité d'un modèle d'apprentissage machine (MLM) s'il est entraîné à l'aide de nouveaux hyperparamètres et/ou d'un ensemble de données. Dans un mode de réalisation, pour chaque ensemble de données d'entraînement, un ordinateur déduit, à partir de l'ensemble de données, des valeurs pour des métacaractéristiques d'ensemble de données. L'ordinateur effectue, pour chaque configuration d'hyperparamètres (HC) d'un MLM, comprenant des HC de point de repère : la configuration du MLM à partir de la HC, l'entraînement du MLM à partir de l'ensemble de données, et l'btention d'une note de qualité empirique qui indique le niveau d'efficacité dudit entraînement de MLM lorsqu'il est configuré à l'aide de la HC. Un uplet de performance est généré qui contient : la HC, les valeurs pour les métacaractéristiques d'ensemble de données, la note de qualité empirique et, pour chaque configuration de point de repère, la note de qualité empirique de la configuration de point de repère et/ou la configuration de point de repère elle-même. En fonction des uplets de performance, un prédicteur est formé pour prédire une note de qualité estimée en fonction d'un ensemble de données donné et d'une HC donnée.
Documents de brevet associés
Dernières données bibliographiques dont dispose le Bureau international