WIPO logo
Mobile | Deutsch | Español | Français | 日本語 | 한국어 | Português | Русский | 中文 | العربية |
PATENTSCOPE

Search International and National Patent Collections
World Intellectual Property Organization
Search
 
Browse
 
Translate
 
Options
 
News
 
Login
 
Help
 
Machine translation
1. (WO2017192183) AUGMENTING NEURAL NETWORKS WITH EXTERNAL MEMORY USING REINFORCEMENT LEARNING
Latest bibliographic data on file with the International Bureau    Submit observation

Pub. No.: WO/2017/192183 International Application No.: PCT/US2016/069569
Publication Date: 09.11.2017 International Filing Date: 30.12.2016
Chapter 2 Demand Filed: 15.12.2017
IPC:
G06N 3/04 (2006.01) ,G06N 3/063 (2006.01)
Applicants: GOOGLE LLC[US/US]; 1600 Amphitheatre Parkway Mountain View, California 94043, US
Inventors: SUTSKEVER, Ilya; US
DANIHELKA, Ivo; GB
GRAVES, Alexander Benjamin; GB
WAYNE, Gregory Duncan; GB
ZAREMBA, Wojciech; US
Agent: PORTNOV, Michael; US
TROESCH, Hans R.; US
DERRY, Paul; 200 Aldersgate London EC1A4HD, GB
Priority Data:
62/331,90404.05.2016US
Title (EN) AUGMENTING NEURAL NETWORKS WITH EXTERNAL MEMORY USING REINFORCEMENT LEARNING
(FR) AUGMENTATION DE RÉSEAUX NEURONAUX À MÉMOIRE EXTERNE À L'AIDE D'UN APPRENTISSAGE PAR RENFORCEMENT
Abstract: front page image
(EN) Methods, systems, and apparatus, including computer programs encoded on computer storage media, for augmenting neural networks with an external memory using reinforcement learning. One of the methods includes providing an output derived from the system output portion of the neural network output as a system output in the sequence of system outputs; selecting a memory access process from a predetermined set of memory access processes for accessing the external memory from the reinforcement learning portion of the neural network output; writing and reading data from locations in the external memory in accordance with the selected memory access process using the differentiable portion of the neural network output; and combining the data read from the external memory with a next system input in the sequence of system inputs to generate a next neural network input in the sequence of neural network inputs.
(FR) L'invention concerne des procédés, des systèmes et un appareil, y compris des programmes informatiques codés sur des supports de stockage informatique, destinés à augmenter des réseaux neuronaux à mémoire externe à l'aide d'un apprentissage par renforcement. L'un des procédés consiste à fournir une sortie dérivée de la partie de sortie de système de la sortie de réseau neuronal en tant que sortie de système de la séquence des sorties de système ; à sélectionner un processus d'accès mémoire à partir d'un ensemble prédéterminé de processus d'accès mémoire destiné à accéder à la mémoire externe à partir de la partie d'apprentissage par renforcement de la sortie de réseau neuronal ; à écrire et lire des données à partir d'emplacements de la mémoire externe conformément au processus d'accès mémoire sélectionné à l'aide de la partie différenciable de la sortie de réseau neuronal ; et à combiner les données lues à partir de la mémoire externe avec une entrée de système suivante de la séquence des entrées de système pour générer une entrée de réseau neuronal suivante de la séquence des entrées de réseau neuronal.
Designated States: AE, AG, AL, AM, AO, AT, AU, AZ, BA, BB, BG, BH, BN, BR, BW, BY, BZ, CA, CH, CL, CN, CO, CR, CU, CZ, DE, DJ, DK, DM, DO, DZ, EC, EE, EG, ES, FI, GB, GD, GE, GH, GM, GT, HN, HR, HU, ID, IL, IN, IR, IS, JP, KE, KG, KH, KN, KP, KR, KW, KZ, LA, LC, LK, LR, LS, LU, LY, MA, MD, ME, MG, MK, MN, MW, MX, MY, MZ, NA, NG, NI, NO, NZ, OM, PA, PE, PG, PH, PL, PT, QA, RO, RS, RU, RW, SA, SC, SD, SE, SG, SK, SL, SM, ST, SV, SY, TH, TJ, TM, TN, TR, TT, TZ, UA, UG, US, UZ, VC, VN, ZA, ZM, ZW
African Regional Intellectual Property Organization (ARIPO) (BW, GH, GM, KE, LR, LS, MW, MZ, NA, RW, SD, SL, ST, SZ, TZ, UG, ZM, ZW)
Eurasian Patent Office (AM, AZ, BY, KG, KZ, RU, TJ, TM)
European Patent Office (EPO) (AL, AT, BE, BG, CH, CY, CZ, DE, DK, EE, ES, FI, FR, GB, GR, HR, HU, IE, IS, IT, LT, LU, LV, MC, MK, MT, NL, NO, PL, PT, RO, RS, SE, SI, SK, SM, TR)
African Intellectual Property Organization (BF, BJ, CF, CG, CI, CM, GA, GN, GQ, GW, KM, ML, MR, NE, SN, TD, TG)
Publication Language: English (EN)
Filing Language: English (EN)