Traitement en cours

Veuillez attendre...

Paramétrages

Paramétrages

Aller à Demande

1. WO2020117926 - MULTIPLICATION MATRICIELLE EN PIPELINE AU NIVEAU D'UN PROCESSEUR GRAPHIQUE

Numéro de publication WO/2020/117926
Date de publication 11.06.2020
N° de la demande internationale PCT/US2019/064454
Date du dépôt international 04.12.2019
CIB
G06F 17/16 2006.01
GPHYSIQUE
06CALCUL; COMPTAGE
FTRAITEMENT ÉLECTRIQUE DE DONNÉES NUMÉRIQUES
17Équipement ou méthodes de traitement de données ou de calcul numérique, spécialement adaptés à des fonctions spécifiques
10Opérations mathématiques complexes
16Calcul de matrice ou de vecteur
G06F 9/38 2006.01
GPHYSIQUE
06CALCUL; COMPTAGE
FTRAITEMENT ÉLECTRIQUE DE DONNÉES NUMÉRIQUES
9Dispositions pour la commande par programme, p.ex. unités de commande
06utilisant des programmes stockés, c. à d. utilisant un moyen de stockage interne à l'équipement de traitement de données pour recevoir ou conserver les programmes
30Dispositions pour exécuter des instructions machines, p.ex. décodage d'instructions
38Exécution simultanée d'instructions
G01T 1/20 2006.01
GPHYSIQUE
01MÉTROLOGIE; TESTS
TMESURE DES RADIATIONS NUCLÉAIRES OU DES RAYONS X
1Mesure des rayons X, des rayons gamma, des radiations corpusculaires ou des radiations cosmiques
16Mesure de l'intensité de radiation
20avec des détecteurs à scintillation
G06N 3/02 2006.01
GPHYSIQUE
06CALCUL; COMPTAGE
NSYSTÈMES DE CALCULATEURS BASÉS SUR DES MODÈLES DE CALCUL SPÉCIFIQUES
3Systèmes de calculateurs basés sur des modèles biologiques
02utilisant des modèles de réseaux neuronaux
CPC
G06F 17/16
GPHYSICS
06COMPUTING; CALCULATING; COUNTING
FELECTRIC DIGITAL DATA PROCESSING
17Digital computing or data processing equipment or methods, specially adapted for specific functions
10Complex mathematical operations
16Matrix or vector computation ; , e.g. matrix-matrix or matrix-vector multiplication, matrix factorization
G06F 9/4843
GPHYSICS
06COMPUTING; CALCULATING; COUNTING
FELECTRIC DIGITAL DATA PROCESSING
9Arrangements for program control, e.g. control units
06using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
46Multiprogramming arrangements
48Program initiating; Program switching, e.g. by interrupt
4806Task transfer initiation or dispatching
4843by program, e.g. task dispatcher, supervisor, operating system
G06N 3/0445
GPHYSICS
06COMPUTING; CALCULATING; COUNTING
NCOMPUTER SYSTEMS BASED ON SPECIFIC COMPUTATIONAL MODELS
3Computer systems based on biological models
02using neural network models
04Architectures, e.g. interconnection topology
0445Feedback networks, e.g. hopfield nets, associative networks
G06N 3/0481
GPHYSICS
06COMPUTING; CALCULATING; COUNTING
NCOMPUTER SYSTEMS BASED ON SPECIFIC COMPUTATIONAL MODELS
3Computer systems based on biological models
02using neural network models
04Architectures, e.g. interconnection topology
0481Non-linear activation functions, e.g. sigmoids, thresholds
G06N 3/063
GPHYSICS
06COMPUTING; CALCULATING; COUNTING
NCOMPUTER SYSTEMS BASED ON SPECIFIC COMPUTATIONAL MODELS
3Computer systems based on biological models
02using neural network models
06Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons
063using electronic means
G06N 3/08
GPHYSICS
06COMPUTING; CALCULATING; COUNTING
NCOMPUTER SYSTEMS BASED ON SPECIFIC COMPUTATIONAL MODELS
3Computer systems based on biological models
02using neural network models
08Learning methods
Déposants
  • ADVANCED MICRO DEVICES, INC. [US]/[US]
Inventeurs
  • NEMLEKAR, Milind N.
Mandataires
  • SHEEHAN, Adam D.
Données relatives à la priorité
16/211,95406.12.2018US
Langue de publication anglais (EN)
Langue de dépôt anglais (EN)
États désignés
Titre
(EN) PIPELINED MATRIX MULTIPLICATION AT A GRAPHICS PROCESSING UNIT
(FR) MULTIPLICATION MATRICIELLE EN PIPELINE AU NIVEAU D'UN PROCESSEUR GRAPHIQUE
Abrégé
(EN)
A graphics processing unit (GPU) [100] schedules recurrent matrix multiplication operations at different subsets of CUs [110, 111, 112, 113] of the GPU. The GPU includes a scheduler [104] that receives sets of recurrent matrix multiplication operations [103, 114], such as multiplication operations associated with a recurrent neural network (RNN). The multiple operations associated with, for example, an RNN layer are fused into a single kernel, which is scheduled by the scheduler such that one work group is assigned per compute unit, thus assigning different ones of the recurrent matrix multiplication operations to different subsets of the CUs of the GPU. In addition, via software synchronization of the different workgroups, the GPU pipelines the assigned matrix multiplication operations so that each subset of CUs provides corresponding multiplication results to a different subset, and so that each subset of CUs executes at least a portion of the multiplication operations concurrently.
(FR)
Un processeur graphique (GPU) [100] planifie des opérations de multiplication matricielle récurrente au niveau de différents sous-ensembles de CU [110, 111, 112, 113] du GPU. Le GPU comprend un planificateur [104] qui reçoit des ensembles d'opérations de multiplication matricielle récurrente [103, 114], telles que des opérations de multiplication associées à un réseau de neurones bouclé (RNN). Les multiples opérations associées, par exemple, à une couche RNN sont fusionnées en un noyau unique, qui est planifié par le programmateur de telle sorte qu'un groupe de travail est attribué par unité de calcul, ce qui permet d'attribuer différentes opérations de multiplication matricielle récurrente à différents sous-ensembles de CU du GPU. De plus, par l'intermédiaire d'une synchronisation logicielle des différents groupes de travail, le GPU effectue en pipeline les opérations de multiplication matricielle attribuées de sorte que chaque sous-ensemble de CU fournit des résultats de multiplication correspondants à un sous-ensemble différent, et de sorte que chaque sous-ensemble de CU exécute au moins une partie des opérations de multiplication simultanément.
Également publié en tant que
Dernières données bibliographiques dont dispose le Bureau international