Title: | Anti-models: an alternative way to discriminative training |
Other Titles: | Antimodely: Alternativní přístup k diskriminativnímu modelování |
Authors: | Vaněk, Jan Psutka, Josef |
Citation: | VANĚK, Jan; PSUTKA, Josef. Anti-models: an alternative way to discriminative training. In: Text, speech nad dialoque. Berlin: Springer, 2014, p. 449-456. ISBN 978-3-319-10815-5. |
Issue Date: | 2014 |
Publisher: | Springer |
Document type: | článek article |
URI: | http://www.kky.zcu.cz/cs/publications/VanekJ_2014_Anti-ModelsAn http://hdl.handle.net/11025/16960 |
ISBN: | 978-3-319-10815-5 |
ISSN: | 0302-9743 |
Keywords: | ASR;HMM;akustické modelování;diskriminativní trénování;antimodely;MMI;MCE;MPE |
Keywords in different language: | ASR;HMM;acoustics modeling;discriminative training;anti-models;MMI;MCE;MPE |
Abstract: | Tradiční metody diskriminativního trénování modifikují parametry skrytých markovových modelů (HMM), které jsou zpravidla odhadnuty na základě kritéria maximální věrohodnosti (ML). V tomto článku jsou namísto toho využity antimodely. Antimodely jsou použity v kombinaci s ML modely tak, aby výstupní pravděpodobnosti HMM byly modifikovány vzhedem k diskriminativní informaci obsažené v trénovacích datech. Tradiční metody diskriminativního trénování jsou náchylné k přetrénování a vyžadují speciální techniky pro stabilní výpočet. Také konvergence není zaručena a zpravidla jen "vhodný" počet iterací je použit. V prezentovaném konceptu antimodelů má model dvě části: pozitivní model a antimodel. Obě čísti jsou trénovány na základě ML kritéria a proto konvergence a stabilita výpočtu je zaručena. |
Abstract in different language: | Traditional discriminative training methods modify Hidden Markov Model (HMM) parameters obtained via a Maximum Likelihood (ML) criterion based estimator. In this paper, anti-models are introduced instead. The anti-models are used in tandem with ML models to incorporate a discriminative information from training data set and modify the HMM output likelihood in a discriminative way. Traditional discriminative training methods are prone to over-fitting and require an extra stabilization. Also, convergence is not ensured and usually "a proper" number of iterations is done. In the proposed anti-models concept, two parts, positive model and anti-model, are trained via ML criterion. Therefore, the convergence and the stability are ensured. |
Rights: | © Jan Vaněk - Josef Psutka |
Appears in Collections: | Články / Articles (KIV) Články / Articles (KKY) |
Files in This Item:
File | Description | Size | Format | |
---|---|---|---|---|
VanekJ_2014_Anti-ModelsAn.pdf | Plný text | 197,75 kB | Adobe PDF | View/Open |
Please use this identifier to cite or link to this item:
http://hdl.handle.net/11025/16960
Items in DSpace are protected by copyright, with all rights reserved, unless otherwise indicated.