Some content of this application is unavailable at the moment.
If this situation persist, please contact us atFeedback&Contact
1. (WO2018051841) MODEL LEARNING DEVICE, METHOD THEREFOR, AND PROGRAM
Latest bibliographic data on file with the International Bureau    Submit observation

Pub. No.: WO/2018/051841 International Application No.: PCT/JP2017/031909
Publication Date: 22.03.2018 International Filing Date: 05.09.2017
IPC:
G10L 15/16 (2006.01) ,G06N 3/08 (2006.01) ,G06N 99/00 (2010.01) ,G10L 15/06 (2013.01) ,G10L 15/065 (2013.01)
G PHYSICS
10
MUSICAL INSTRUMENTS; ACOUSTICS
L
SPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
15
Speech recognition
08
Speech classification or search
16
using artificial neural networks
G PHYSICS
06
COMPUTING; CALCULATING; COUNTING
N
COMPUTER SYSTEMS BASED ON SPECIFIC COMPUTATIONAL MODELS
3
Computer systems based on biological models
02
using neural network models
08
Learning methods
G PHYSICS
06
COMPUTING; CALCULATING; COUNTING
N
COMPUTER SYSTEMS BASED ON SPECIFIC COMPUTATIONAL MODELS
99
Subject matter not provided for in other groups of this subclass
G PHYSICS
10
MUSICAL INSTRUMENTS; ACOUSTICS
L
SPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
15
Speech recognition
06
Creation of reference templates; Training of speech recognition systems, e.g. adaptation to the characteristics of the speaker's voice
G PHYSICS
10
MUSICAL INSTRUMENTS; ACOUSTICS
L
SPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
15
Speech recognition
06
Creation of reference templates; Training of speech recognition systems, e.g. adaptation to the characteristics of the speaker's voice
065
Adaptation
Applicants:
日本電信電話株式会社 NIPPON TELEGRAPH AND TELEPHONE CORPORATION [JP/JP]; 東京都千代田区大手町一丁目5番1号 5-1, Otemachi 1-chome, Chiyoda-ku, Tokyo 1008116, JP
Inventors:
政瀧 浩和 MASATAKI, Hirokazu; JP
浅見 太一 ASAMI, Taichi; JP
中村 孝 NAKAMURA, Takashi; JP
増村 亮 MASUMURA, Ryo; JP
Agent:
中尾 直樹 NAKAO, Naoki; JP
中村 幸雄 NAKAMURA, Yukio; JP
義村 宗洋 YOSHIMURA, Takahiro; JP
Priority Data:
2016-18145016.09.2016JP
Title (EN) MODEL LEARNING DEVICE, METHOD THEREFOR, AND PROGRAM
(FR) DISPOSITIF D'APPRENTISSAGE DE MODÈLE, PROCÉDÉ ASSOCIÉ ET PROGRAMME
(JA) モデル学習装置、その方法、及びプログラム
Abstract:
(EN) The present invention comprises: an initial value setting unit that, by using a parameter for a first model which has been learned and which includes a neutral network, sets a parameter for a second model which includes a neutral network having a structure similar to that of the first model; a first output probability distribution calculating unit that, by using the first model and a feature amount for learning, calculates a first output probability distribution including distribution of output probabilities of units in an output layer; a second output probability distribution calculating unit that, by using the second model and the feature amount for learning, calculates a second output probability distribution including distribution of the output probabilities of the units in the output layer; and a correction model updating unit that obtains a weighted sum of a second loss function calculated from the second output probability distribution and from information about a correct answer and cross entropy between the first output probability distribution and the second output probability distribution, and that updates the parameter for the second model such that the weighted sum is decreased.
(FR) L'invention concerne : une unité de définition de valeur initiale qui, à l'aide d'un paramètre pour un premier modèle qui a été appris et qui comprend un réseau neutre, définit un paramètre pour un second modèle qui comprend un réseau neutre ayant une structure identique à celle du premier modèle; une première unité de calcul de distribution de probabilité de sortie qui, à l'aide d'une quantité de caractéristiques pour l'apprentissage et du premier modèle, calcule une première distribution de probabilité de sortie comprenant la distribution de probabilité de sortie d'unités dans une couche de sortie; une seconde unité de calcul de distribution de probabilité de sortie qui, à l'aide de la quantité de caractéristiques pour l'apprentissage et du second modèle, calcule une seconde distribution de probabilités de sortie comprenant la distribution des probabilités de sortie des unités dans la couche de sortie; et une unité de mise à jour de modèle de correction qui obtient une somme pondérée d'une seconde fonction de perte calculée à partir de la seconde distribution de probabilité de sortie et des informations relatives à une réponse correcte et d'une entropie croisée entre la première distribution de probabilité de sortie et la seconde distribution de probabilité de sortie et qui met à jour le paramètre pour le second modèle de façon à réduire la somme pondérée.
(JA) 学習済みの、ニューラルネットワークを含む第一モデルのパラメータを用いて、第一モデルと同様の構造のニューラルネットワークを含む第二モデルのパラメータを設定する初期値設定部と、学習用の特徴量と第一モデルとを用いて、出力層の各ユニットの出力確率の分布を含む第一出力確率分布を計算する第一出力確率分布計算部と、学習用の特徴量と第二モデルとを用いて、出力層の各ユニットの出力確率の分布を含む第二出力確率分布を計算する第二出力確率分布計算部と、正解に関する情報と第二出力確率分布とから計算された第二損失関数と、第一出力確率分布と第二出力確率分布とのクロスエントロピーとの重み付き和を求め、重み付き和が減少するように第二モデルのパラメータを更新する修正モデル更新部とを含む。
front page image
Designated States: AE, AG, AL, AM, AO, AT, AU, AZ, BA, BB, BG, BH, BN, BR, BW, BY, BZ, CA, CH, CL, CN, CO, CR, CU, CZ, DE, DJ, DK, DM, DO, DZ, EC, EE, EG, ES, FI, GB, GD, GE, GH, GM, GT, HN, HR, HU, ID, IL, IN, IR, IS, JO, JP, KE, KG, KH, KN, KP, KR, KW, KZ, LA, LC, LK, LR, LS, LU, LY, MA, MD, ME, MG, MK, MN, MW, MX, MY, MZ, NA, NG, NI, NO, NZ, OM, PA, PE, PG, PH, PL, PT, QA, RO, RS, RU, RW, SA, SC, SD, SE, SG, SK, SL, SM, ST, SV, SY, TH, TJ, TM, TN, TR, TT, TZ, UA, UG, US, UZ, VC, VN, ZA, ZM, ZW
African Regional Intellectual Property Organization (ARIPO) (BW, GH, GM, KE, LR, LS, MW, MZ, NA, RW, SD, SL, ST, SZ, TZ, UG, ZM, ZW)
Eurasian Patent Office (AM, AZ, BY, KG, KZ, RU, TJ, TM)
European Patent Office (EPO) (AL, AT, BE, BG, CH, CY, CZ, DE, DK, EE, ES, FI, FR, GB, GR, HR, HU, IE, IS, IT, LT, LU, LV, MC, MK, MT, NL, NO, PL, PT, RO, RS, SE, SI, SK, SM, TR)
African Intellectual Property Organization (BF, BJ, CF, CG, CI, CM, GA, GN, GQ, GW, KM, ML, MR, NE, SN, TD, TG)
Publication Language: Japanese (JA)
Filing Language: Japanese (JA)