Processing

Please wait...

Settings

Settings

Goto Application

1. WO2020192582 - NEURAL NETWORK OPERATION MODULE AND METHOD

Publication Number WO/2020/192582
Publication Date 01.10.2020
International Application No. PCT/CN2020/080402
International Filing Date 20.03.2020
IPC
G06N 3/063 2006.01
GPHYSICS
06COMPUTING; CALCULATING OR COUNTING
NCOMPUTER SYSTEMS BASED ON SPECIFIC COMPUTATIONAL MODELS
3Computer systems based on biological models
02using neural network models
06Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons
063using electronic means
Applicants
  • 上海寒武纪信息科技有限公司 SHANGHAI CAMBRICON INFORMATION TECHNOLOGY CO., LTD [CN]/[CN]
Inventors
  • 刘少礼 LIU, Shaoli
  • 张曦珊 ZHANG, Xishan
Agents
  • 广州三环专利商标代理有限公司 SCIHEAD IP LAW FIRM
Priority Data
201910235038.X26.03.2019CN
201910235214.X26.03.2019CN
201910235215.426.03.2019CN
Publication Language Chinese (ZH)
Filing Language Chinese (ZH)
Designated States
Title
(EN) NEURAL NETWORK OPERATION MODULE AND METHOD
(FR) MODULE ET PROCÉDÉ D'EXPLOITATION DE RÉSEAU NEURONAL
(ZH) 神经网络运算模块及方法
Abstract
(EN)
A neural network operation module, which comprises a storage unit that stores output neurons, weight precision and output neuron gradient precision of a multi-layer neural network; a controller unit that obtains an average value Y1 of the absolute value of the output neuron before fixed-point and an average value Y2 of the absolute value of the output neuron after fixed-point; if Y1/Y2 is greater than a preset threshold K, obtaining the output neuron gradient precision of adjacent two layers of the multi-layer neural network, and obtaining an estimation value A n of error transfer precision according to the output neuron gradient precision and weight precision of the adjacent two layers; when An is greater than a preset precision A r, the output neuron gradient precision and weight precision of the adjacent two layers are increased; and an operation unit that represents the output neuron gradient and weight of the adjacent two layers according to the increased precision, and performs subsequent operation.
(FR)
L'invention concerne un module d'exploitation de réseau neuronal comprenant une unité de mémoire qui mémorise des neurones de sortie, une précision de pondération et une précision de gradient de neurone de sortie d'un réseau neuronal multicouche; une unité de commande qui obtient une valeur moyenne Y1 de la valeur absolue du neurone de sortie avant un point fixe et une valeur moyenne Y2 de la valeur absolue du neurone de sortie après le point fixe; si Y1/Y2 est supérieur à un seuil prédéfini K, le procédé comprend l'obtention de la précision de gradient de neurone de sortie de deux couches adjacentes du réseau neuronal multicouche, et l'obtention d'une valeur d'estimation A n d'une précision de transfert d'erreur en fonction de la précision de gradient de neurone de sortie et de la précision de pondération des deux couches adjacentes; lorsque An est supérieur à une précision prédéfinie A r, la précision de gradient de neurone de sortie et la précision de pondération des deux couches adjacentes sont augmentées; et une unité de fonctionnement qui représente le gradient de neurone de sortie et la pondération des deux couches adjacentes en fonction de la précision augmentée, et effectue une opération ultérieure.
(ZH)
一种神经网络运算模块,包括存储单元存储多层神经网络的输出神经元、权重精度和输出神经元梯度精度;控制器单元,用于获取定点化前输出神经元的绝对值的平均值Y1和定点化后输出神经元的绝对值的平均值Y2;若Y1/Y2大于预设阈值K,则获取多层神经网络的相邻两层输出神经元梯度精度时,根据相邻两层输出神经元梯度精度和权重精度获取误差传递精度预估值A n;当A n大于预设精度A r时,增大相邻两层输出神经元梯度精度及权重精度;运算单元根据增大后精度表示相邻两层输出神经元梯度及权重,并进行后续运算。
Latest bibliographic data on file with the International Bureau