Amplification d'arbres de régression compatibles avec l'encodage de la sortie, application à la reconnaissance des images de chiffres manuscrits

Auteur(s): Ben Fadhel, Khalil
Direction de recherche: Marchand, MarioLaviolette, François
Résumé: Le boosting est une approche largement utilisée pour résoudre les problèmes de classification et de régression. Sa force réside dans sa capacité à améliorer les performances de classificateurs individuels faibles pour en construire un puissant. La théorie du boosting est bien établie en tant que descente de gradient dans un espace de fonctions. Cependant, la conception d’un apprenant faible qui peut s’amplifier par boosting reste une question ouverte. Inspirés par les algorithmes Adaboost-MH et XGBoost, nous proposons une nouvelle famille d’apprenants faibles appelée Arbres de Hamming multi-classes à niveaux de confiance, où un arbre prenden charge l’encodage de la sortie, effectue un seul partitionnement disjoint de l’espace des instances, et prédit un vecteur de coefficients à valeurs réelles afin de mieux approximer le gradient fonctionnel négatif de la fonction objective. Nous proposons également un algorithme de boosting appelé QuadBoost-MHCR pour la minimisation de la perte quadratique multi-calsses avec encodage multi-classes de Hamming et avec des prédictions à niveaux de confiance. L’algorithme minimise une fonction de perte L2 multi-classes et il est facile de le généraliser, de manière analogue à XGBoost, pour minimiser toute fonction objective deux fois différentiable.
Type de document: Mémoire de maîtrise
Date de publication: 2019
Date de la mise en libre accès: 2 août 2019
Lien permanent: http://hdl.handle.net/20.500.11794/35737
Université décernant le diplôme: Université Laval
Collection :Thèses et mémoires

Fichier(s) :
Description TailleFormat 
35311.pdf2.22 MBAdobe PDFMiniature
Télécharger
Tous les documents dans CorpusUL sont protégés par la Loi sur le droit d'auteur du Canada.