Title: Full covariance gaussian mixture models evaluation on GPU
Other Titles: Vyhodnocování směsí Gaussovských modelů s plnou kovarianční maticí na GPU
Authors: Vaněk, Jan
Trmal, Jan
Psutka, Josef V.
Psutka, Josef
Citation: VANĚK, Jan; TRMAL, Jan; PSUTKA, Josef V.; PSUTKA, Josef. Full covariance gaussian mixture models evaluation on GPU. In: IEEE international symposium on signal processing and information technology. Vietnam: IEEE Press, 2012, p. [1-5]. ISBN 978-1-4673-5604-6.
Issue Date: 2012
Publisher: IEEE Press
Document type: článek
article
URI: http://www.kky.zcu.cz/cs/publications/VanekJ_2012_FullCovariance
http://hdl.handle.net/11025/16961
ISBN: 978-1-4673-5604-6
Keywords: směsi Gaussovských modelů;plné kovarianční matice;automatické rozpoznávání řeči;GPU;CUDA;OpenCL
Keywords in different language: Gaussian mixture models;full covariance;automatic speech recognition;GPU;CUDA;OpenCL
Abstract: Směsi Gaussovských modelů jsou často používány v mnoha úlohách klasifikace či jiného zpracování dad. Používány jsou jako modely hustoty pravděpodobnosti v prostorech vyšších dimenzí. V případech, kdy je dimenze prostoru příznakových vektorů relativně veliká (např. v systémech automatického rozpoznávání řeči), jsou používány smesi Gaussovských modelů s diagonální kovarianční maticí, spíše než modely s plnou kovariancí. A to ze dvou důvodů: Prvním důvodem je problematičnost odhadu parametrů těchto plných kovariančních matic v případě omezeného množství trénovacích dat. Druhým důvodem je pak výrazně vyšší výpočetní náročnost vyhodnocování těchto modelů. Robustnost odhadů byla zkoumána v mnoha již publikovaných pracích. Tento článek popisuje efektivní implementaci výpočtu pravděpodobností těchto modelů na GPU a řeší tak problém velké výpočetní náročnosti. Výkonost byla testována na akustickém modelu systému automatického rozpoznávání řeči. Výsledky naší implementace ukazují, že i grafická karta levného notebooku je schopná zvlándnout vyhodnotit velké akustické modely ve reálném čase. Tři varianty algoritmu byly implementovány a porovnány mezi sebou na různých GPU: NVIDIA CUDA, NVIDIA OpenCL a ATI/AMD OpenCL.
Abstract in different language: Gaussian mixture models (GMMs) are often used in various data processing and classification tasks to model a continuous probability density in a multi-dimensional space. In cases, where the dimension of the feature space is relatively high (e.g. in the automatic speech recognition (ASR)), GMM with a higher number of Gaussians with diagonal covariances (DC) instead of full covariances (FC) is used from the two reasons. The first reason is a~problem how to estimate robust FC matrices with a~limited training data set. The second reason is a~much higher computational cost during the GMM evaluation. The first reason was addressed in many recent publications. In contrast, this paper describes an efficient implementation on Graphic Processing Unit (GPU) of the FC-GMM evaluation, which addresses the second reason. The performance was tested on acoustic models for ASR, and it is shown that even a low-end laptop GPU is capable to evaluate a large acoustic model in a fraction of the real speech time. Three variants of the algorithm were implemented and compared on various GPUs: NVIDIA CUDA, NVIDIA OpenCL, and ATI/AMD OpenCL.
Rights: © Jan Vaněk - Jan Trmal - Josef V. Psutka - Josef Psutka
Appears in Collections:Články / Articles (KIV)
Články / Articles (KKY)

Files in This Item:
File Description SizeFormat 
VanekJ_2012_FullCovariance.pdfPlný text357,73 kBAdobe PDFView/Open


Please use this identifier to cite or link to this item: http://hdl.handle.net/11025/16961

Items in DSpace are protected by copyright, with all rights reserved, unless otherwise indicated.