Inference algorithms for the regression approach to sequence prediction

DC FieldValueLanguage
dc.contributor.advisorMarchand, Mario-
dc.contributor.advisorLaviolette, François-
dc.contributor.authorRolland, Amélie-
dc.date.accessioned2018-04-24T21:34:16Z-
dc.date.available2018-04-24T21:34:16Z-
dc.date.issued2016-
dc.identifier.other32781-
dc.identifier.urihttp://hdl.handle.net/20.500.11794/27311-
dc.description.abstractLa prédiction de séquence comporte plusieurs applications en traitement du langage naturel, en bioinformatique, et en vision numérique. La complexité de calcul requise pour trouver la séquence optimale parmi un nombre exponentiel de possibilités limite cependant l’utilisation de tels algorithmes. Dans ce mémoire, nous proposons une approche permettant de résoudre cette recherche efficacement pour deux types de problèmes différents. Plus précisément, nous adressons le problème de pré-image en prédiction de structure nécessitant de trouver la séquence associée à une entrée arbitraire, et le problème consistant à trouver la séquence qui maximise la fonction de prédiction de plusieurs classificateurs et régresseurs à noyaux. Nous démontrons que ces deux problèmes se réduisent en un même problème combinatoire valide pour plusieurs noyaux à séquences. Pour ce problème, nous proposons une borne supérieure sur la fonction de prédiction pouvant être utilisée dans un algorithme de recherche branch and bound pour l’obtention de solutions optimales. Sur les tâches de reconnaissance de mots et de prédiction de phonèmes, l’approche proposée obtient des résultats compétitifs avec les algorithmes de prédiction de structure de l’état de l’art. De plus, la solution exacte du problème de pré-image augmente de manière significative les performances de prédiction en comparaison avec une approximation trouvée par l’heuristique la plus connue. Pour les tâches consistant à trouver la séquence maximisant la fonction de prédiction de classificateurs et régresseurs, nous montrons que des méthodes existantes peuvent être biaisées à prédire de longues séquences comportant des symboles répétitifs. Nous soulignons que ce biais est enlevé lorsque le noyau est normalisé. Finalement, nous présentons des résultats en conception de médicaments sur la découverte de composés principaux. Le code source peut être téléchargé à https://github.com/a-ro/preimage.fr
dc.description.abstractSequence prediction algorithms have many applications in natural language processing, bioinformatics, and computer vision. However, the computational complexity required to find the optimal sequence among an exponential number of possibilities limits the use of such algorithms. In this thesis, we propose an approach to solve this search efficiently for two types of sequence prediction problems. More precisely, we address the pre-image problem encountered in structured output prediction, which consists of finding the sequence associated with an arbitrary input, and the problem of finding a sequence maximizing the prediction function of various kernel-based classifiers and regressors. We demonstrate that these problems reduce to a common combinatorial problem valid for many sequence kernels. For this problem, we propose an upper bound on the prediction function which has low computational complexity and which can be used in a branch and bound search algorithm to obtain optimal solutions. On the practical tasks of optical word recognition and grapheme-to-phoneme prediction, the proposed approach is shown to be competitive with state-of-the-art structured prediction algorithms. Moreover, the exact solution of the pre-image problem is shown to significantly improve the prediction accuracy in comparison with an approximation found by the best known heuristic. On the task of finding a sequence maximizing the prediction function of kernelbased classifiers and regressors, we highlight that existing methods can be biased toward long sequences that contain many repeated symbols. We demonstrate that this bias is removed when using normalized kernels. Finally, we present results for the discovery of lead compounds in drug discovery. The source code can be found at https://github.com/a-ro/preimage.en
dc.format.extent1 ressource en ligne (x, 85 pages)-
dc.languageeng-
dc.subject.classificationQA 76.05 UL 2016-
dc.titleInference algorithms for the regression approach to sequence predictionen
dc.typeCOAR1_1::Texte::Thèse::Mémoire de maîtrisefr
dc.date.updated2018-04-24T21:34:16Z-
dc.subject.rvmStatistique mathématiquefr_CA
dc.subject.rvmAlgorithmesfr_CA
dc.subject.rvmPrévisionfr_CA
dc.subject.rvmNoyaux (Mathématiques)fr_CA
dc.subject.rvmApprentissage supervisé (Intelligence artificielle)fr_CA
dcterms.publisher.locationQuébec-
dc.identifier.bacTC-QQLA-32781-
bul.identifier.controlNumbera2605252-
etdms.degree.nameMémoire. Informatiquefr_CA
etdms.degree.grantorUniversité Lavalfr_CA
Collection:Thèses et mémoires

Files in this item:
SizeFormat 
32781.pdf1.7 MBAdobe PDFView/Open
All documents in CorpusUL are protected by Copyright Act of Canada.