Processing

Please wait...

Settings

Settings

Goto Application

1. WO2022000101 - METHOD TO AVOID MEMORY BANK CONFLICTS AND PIPELINE CONFLICTS IN TENSOR MEMORY LAYOUT

Publication Number WO/2022/000101
Publication Date 06.01.2022
International Application No. PCT/CN2020/098351
International Filing Date 28.06.2020
IPC
G06F 9/38 2006.1
GPHYSICS
06COMPUTING; CALCULATING OR COUNTING
FELECTRIC DIGITAL DATA PROCESSING
9Arrangements for program control, e.g. control units
06using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
30Arrangements for executing machine instructions, e.g. instruction decode
38Concurrent instruction execution, e.g. pipeline, look ahead
Applicants
  • HUAWEI TECHNOLOGIES CO., LTD. [CN]/[CN]
Inventors
  • BULANOVA, Anna
  • DAVIES, Jessica
  • GAO, Xiong
Priority Data
Publication Language English (en)
Filing Language English (EN)
Designated States
Title
(EN) METHOD TO AVOID MEMORY BANK CONFLICTS AND PIPELINE CONFLICTS IN TENSOR MEMORY LAYOUT
(FR) PROCÉDÉ D'ÉVITEMENT DE CONFLITS ENTRE BANQUES DE MÉMOIRE ET DE CONFLITS ENTRE PIPELINES EN CONFIGURATION DE MÉMOIRE DE TENSEURS
Abstract
(EN) A method for optimizing a layout of a tensor memory defines at least one hard constraint for allocating a plurality of input/output (I/O) vectors for reading and writing data for a task in the tensor memory. The at least one hard constraint is applied to determine one or more potential conflicts between the plurality of I/O vectors. One or more soft constraints aimed at mitigating the one or more potential conflicts between the I/O vectors may also be generated. The at least one hard constraint is applied in a maximum satisfiability (MaxSAT) solver. The one or more soft constraints may also be applied in the MaxSAT solver. The MaxSAT solver determines locations of the data in the tensor memory. The starting addresses of the input data to be read and of output data to be written by each of the I/O vectors are updated in the tensor memory.
(FR) Un procédé d'optimisation d'une configuration d'une mémoire de tenseurs définit au moins une contrainte dure pour attribuer une pluralité de vecteurs d'entrée/sortie (E/S) pour lire et pour écrire des données pour une tâche dans la mémoire de tenseurs. La ou les contraintes dures s'appliquent pour déterminer un ou plusieurs conflits potentiels entre la pluralité de vecteurs d'E/S. Une ou plusieurs contraintes douces, visant à atténuer le ou les conflits potentiels entre les vecteurs d'E/S, peuvent également être générées. La ou les contraintes dures s'appliquent à un solveur apportant un maximum de satisfaction (MaxSAT). La ou les contraintes douces peuvent également s'appliquer au solveur à MaxSAT. Le solveur à MaxSAT détermine des emplacements des données dans la mémoire de tenseurs. Les adresses de départ des données d'entrée à lire et de données de sortie à écrire par chacun des vecteurs d'E/S sont mises à jour dans la mémoire de tenseurs.
Latest bibliographic data on file with the International Bureau