WIPO logo
Mobile | Deutsch | Español | Français | 日本語 | 한국어 | Português | Русский | 中文 | العربية |
PATENTSCOPE

Search International and National Patent Collections
World Intellectual Property Organization
Search
 
Browse
 
Translate
 
Options
 
News
 
Login
 
Help
 
Machine translation
1. (WO2018081089) PROCESSING TEXT SEQUENCES USING NEURAL NETWORKS
Latest bibliographic data on file with the International Bureau    Submit observation

Pub. No.:    WO/2018/081089    International Application No.:    PCT/US2017/058046
Publication Date: 03.05.2018 International Filing Date: 24.10.2017
IPC:
G06N 3/04 (2006.01), G06F 17/20 (2006.01)
Applicants: DEEPMIND TECHNOLOGIES LIMITED [GB/GB]; 5 New Street Square London EC4A 3TW (GB)
Inventors: KALCHBRENNER, Nal Emmerich; (GB).
SIMONYAN, Karen; (GB).
ESPEHOLT, Lasse; (GB)
Agent: PORTNOV, Michael; (US)
Priority Data:
62/413,366 26.10.2016 US
Title (EN) PROCESSING TEXT SEQUENCES USING NEURAL NETWORKS
(FR) TRAITEMENT DE SÉQUENCES DE TEXTES UTILISANT DES RÉSEAUX NEURONAUX
Abstract: front page image
(EN)Methods, systems, and apparatus, including computer programs encoded on a computer storage medium, for neural machine translation. In one aspect, a system is configured to receive an input sequence of source embeddings representing a source sequence of words in a source natural language and to generate an output sequence of target embeddings representing a target sequence of words that is a translation of the source sequence into a target natural language, the system comprising: a dilated convolutional neural network configured to process the input sequence of source embeddings to generate an encoded representation of the source sequence, and a masked dilated convolutional neural network configured to process the encoded representation of the source sequence to generate the output sequence of target embeddings.
(FR)L'invention concerne des procédés, des systèmes et un appareil, comprenant des programmes informatiques codés sur un support de stockage informatique, pour la traduction machine neuronale. Selon un aspect, un système est configuré pour recevoir une séquence d'entrée d'éléments d'incorporation sources représentant une séquence source de mots dans une langue naturelle source et pour générer une séquence de sortie d'éléments d'incorporation cibles représentant une séquence cible de mots qui est une traduction de la séquence source en une langue naturelle cible, le système comprenant : un réseau neuronal à convolution dilatée configuré pour traiter la séquence d'entrée d'éléments d'incorporation sources pour générer une représentation codée de la séquence source, et un réseau neuronal à convolution dilatée masqué configuré pour traiter la représentation codée de la séquence source afin de générer la séquence de sortie d'éléments d'incorporation cibles.
Designated States: AE, AG, AL, AM, AO, AT, AU, AZ, BA, BB, BG, BH, BN, BR, BW, BY, BZ, CA, CH, CL, CN, CO, CR, CU, CZ, DE, DJ, DK, DM, DO, DZ, EC, EE, EG, ES, FI, GB, GD, GE, GH, GM, GT, HN, HR, HU, ID, IL, IN, IR, IS, JO, JP, KE, KG, KH, KN, KP, KR, KW, KZ, LA, LC, LK, LR, LS, LU, LY, MA, MD, ME, MG, MK, MN, MW, MX, MY, MZ, NA, NG, NI, NO, NZ, OM, PA, PE, PG, PH, PL, PT, QA, RO, RS, RU, RW, SA, SC, SD, SE, SG, SK, SL, SM, ST, SV, SY, TH, TJ, TM, TN, TR, TT, TZ, UA, UG, US, UZ, VC, VN, ZA, ZM, ZW.
African Regional Intellectual Property Organization (BW, GH, GM, KE, LR, LS, MW, MZ, NA, RW, SD, SL, ST, SZ, TZ, UG, ZM, ZW)
Eurasian Patent Organization (AM, AZ, BY, KG, KZ, RU, TJ, TM)
European Patent Office (AL, AT, BE, BG, CH, CY, CZ, DE, DK, EE, ES, FI, FR, GB, GR, HR, HU, IE, IS, IT, LT, LU, LV, MC, MK, MT, NL, NO, PL, PT, RO, RS, SE, SI, SK, SM, TR)
African Intellectual Property Organization (BF, BJ, CF, CG, CI, CM, GA, GN, GQ, GW, KM, ML, MR, NE, SN, TD, TG).
Publication Language: English (EN)
Filing Language: English (EN)