Traitement en cours

Veuillez attendre...

Paramétrages

Paramétrages

Aller à Demande

1. WO2021058578 - RÉSEAUX NEURONAUX CREUX RAPIDES

Numéro de publication WO/2021/058578
Date de publication 01.04.2021
N° de la demande internationale PCT/EP2020/076587
Date du dépôt international 23.09.2020
CIB
G06N 3/02 2006.01
GPHYSIQUE
06CALCUL; COMPTAGE
NSYSTÈMES DE CALCULATEURS BASÉS SUR DES MODÈLES DE CALCUL SPÉCIFIQUES
3Systèmes de calculateurs basés sur des modèles biologiques
02utilisant des modèles de réseaux neuronaux
G06K 9/46 2006.01
GPHYSIQUE
06CALCUL; COMPTAGE
KRECONNAISSANCE DES DONNÉES; PRÉSENTATION DES DONNÉES; SUPPORTS D'ENREGISTREMENT; MANIPULATION DES SUPPORTS D'ENREGISTREMENT
9Méthodes ou dispositions pour la lecture ou la reconnaissance de caractères imprimés ou écrits ou pour la reconnaissance de formes, p.ex. d'empreintes digitales
36Prétraitement de l'image, c. à d. traitement de l'information image sans se préoccuper de l'identité de l'image
46Extraction d'éléments ou de caractéristiques de l'image
CPC
G06K 2009/4695
GPHYSICS
06COMPUTING; CALCULATING; COUNTING
KRECOGNITION OF DATA; PRESENTATION OF DATA; RECORD CARRIERS; HANDLING RECORD CARRIERS
9Methods or arrangements for reading or recognising printed or written characters or for recognising patterns, e.g. fingerprints
36Image preprocessing, i.e. processing the image information without deciding about the identity of the image
46Extraction of features or characteristics of the image
4695sparse representation
G06N 3/0454
GPHYSICS
06COMPUTING; CALCULATING; COUNTING
NCOMPUTER SYSTEMS BASED ON SPECIFIC COMPUTATIONAL MODELS
3Computer systems based on biological models
02using neural network models
04Architectures, e.g. interconnection topology
0454using a combination of multiple neural nets
G06N 3/0481
GPHYSICS
06COMPUTING; CALCULATING; COUNTING
NCOMPUTER SYSTEMS BASED ON SPECIFIC COMPUTATIONAL MODELS
3Computer systems based on biological models
02using neural network models
04Architectures, e.g. interconnection topology
0481Non-linear activation functions, e.g. sigmoids, thresholds
G06N 3/063
GPHYSICS
06COMPUTING; CALCULATING; COUNTING
NCOMPUTER SYSTEMS BASED ON SPECIFIC COMPUTATIONAL MODELS
3Computer systems based on biological models
02using neural network models
06Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons
063using electronic means
Déposants
  • DEEPMIND TECHNOLOGIES LIMITED [GB]/[GB]
Inventeurs
  • ELSEN, Erich Konrad
  • GALE, Trevor John
  • DUKHAN, Marat
Mandataires
  • FISH & RICHARDSON P.C.
Données relatives à la priorité
62/905,88825.09.2019US
Langue de publication anglais (EN)
Langue de dépôt anglais (EN)
États désignés
Titre
(EN) FAST SPARSE NEURAL NETWORKS
(FR) RÉSEAUX NEURONAUX CREUX RAPIDES
Abrégé
(EN)
A neural network system includes at least one layer which applies a lxl convolution to a dense activation matrix, using a kernel defined by a sparse weight matrix. The layer is implemented by a processor with access to a sparsity dataset which indicates where the null weights are located in the weight matrix. The processor selects the feature values corresponding to the other weights from a memory unit configured to store the activation matrix, and then uses these extracted feature values for calculating the convolved values.
(FR)
La présente invention porte sur un système de réseau neuronal, comprenant au moins une couche qui applique une convolution lxl à une matrice d'activation dense, à l'aide d'un noyau défini par une matrice de poids creuse. La couche est implémentée par un processeur ayant accès à un ensemble de données de parcimonie qui indique où les poids nuls sont situés dans la matrice de poids. Le processeur sélectionne les valeurs caractéristiques correspondant aux autres poids provenant d'une unité de mémoire configurée pour stocker la matrice d'activation, et utilise ensuite ces valeurs caractéristiques extraites pour le calcul des valeurs convolutionnées.
Dernières données bibliographiques dont dispose le Bureau international