Mémoire Online: Apprentissage incrémental et machines à vecteurs supports

Mémoire online apprentissage incrémental et machines à vecteurs supports, tutoriel & guide de travaux pratiques en pdf.

Résumé
Table des matières
Liste des figures
Liste des tableaux
Introduction générale
Chapitre1 : L’apprentissage Automatique
1.1 Introduction
1.2 Concepts et sources de l‟apprentissage automatique
1.3 Types d‟apprentissage
1.3.1 L‟apprentissage supervisé
1.3.2 L‟apprentissage non supervisé
1.3.3 L‟apprentissage semi supervisé
1.3.4 L‟apprentissage partiellement supervisé
1.3.5 L‟apprentissage par renforcement
1.4 Les algorithmes utilisés
1.5 Facteurs de pertinence et d‟efficacité
1.6 Théorie de l‟apprentissage statistique
1.6.1 Introduction
1.6.2 La classification en théorie
1.6.2.1 Modèle général
1.6.2.2 Formulation
1.6.2.3 Fonction d‟erreur et risque
1.6.2.4 Machine d‟apprentissage
1.6.2.5 Risque empirique
1.6.3 L‟analyse statistique de l‟apprentissage
1.6.3.1 Insuffisance de minimisation du risque empirique
1.6.3.2 Dimension VC
1.6.3.3 Minimisation du risque structurel
1.6.3.4 Stratégie de minimisation du risque
1.6.4 La classification en pratique
1.7 Quelques méthodes de classification
1.8 Conclusion
Chapitre2 : Les Machines à Vecteurs Supports
2.1 Introduction
2.2 L‟historique
2.3 Principe de fonctionnement général
2.3.1 Notions de base
2.3.2 Propriétés fondamentales
2.3.3 Fondements mathématiques
2.3.3.1 SVM linéaire
2.3.3.1.1 Cas linéairement séparable
2.3.3.1.2 Cas linéairement non séparable
2.3.3.2 SVM non linéaire
2.3.3.2.1 Fonctions noyaux
2.3.3.2.2 Principe de fonctionnement
2.3.3.2.2 Architecture générale d‟une SVM
2.3.4 Méthodes de résolution d‟un SVM
2.4 Extension d‟un SVM binaire au cas multiclasse
2.4.1 Approche un contre tous
2.4.2 Approche un contre un
2.4.3 Graphe de décision
2.4.4 SVM basée sur arbre de décision
2.5 SVM monoclasse
2.6 Conclusion
Chapitre3 : Mise en œuvre des machines à vecteurs de supports
3.1 Introduction
3.2 Formulation duale du SVM
3.3 Résolution du problème lié à l‟apprentissage d‟un SVM
3.3.1 Méthode de chunking
3.3.2 Méthode de décomposition
3.3.2.1 l‟algorithme de Joachims
3.3.2.2 L‟algorithme SMO de Platt
3.4 Résultats expérimentaux
3.4.1 Classification binaire : Application à des bases de données standards
3.4.2 Classification Multiclasse : Application aux bases USPS ET MNIST
3.4.3 Classification binaire : Application aux paires de chiffres manuscrits
3.4.3.1 Résultats de Simulation avec LIBSVM
3.4.3.2 Résultats de Simulation avec SVMLIGHT
3.4.3.3 Interprétations des résultats
3.5 Conclusion
Chapitre4 : Algorithmes incrémentaux des SVM
4.1 Introduction
4.2 Apprentissage hors-ligne et Apprentissage en-ligne
4.3 Apprentissage Statique et Apprentissage incrémental
4.4 Système adaptatif et système évolutif
4.5 Mémoires des données et mémoire des concepts
4.6 Etat de l‟art sur l‟apprentissage incrémental des SVM
4.7 L‟algorithme de cauwenbergh et Poggio
4.7.1 Principe de l‟algorithme
4.7.2 Conditions KKT
4.7.3 Pseudo code de la procédure incrémentale
4.7.4 Pseudo code de la procédure de validation
4.8 Le nouvel algorithme proposé
4.8.1 Conditions KKT
4.8.2 Principe de l‟algorithme
4.8.3 Initialisation de la solution
4.8.4 Pseudo code de l‟algorithme
4.8.5 Environnement d‟implémentation
4.9 Résultats expérimentaux
4.9.1 Résultats de Simulation : Algorithme (C & P)
4.9.2 Résultats expérimentaux du nouvel algorithme incrémental
4.9.3 Résultats expérimentaux sur les chiffres manuscrits
4.10 Conclusion
Conclusion générale
Bibliographie

L’apprentissage Automatique

Introduction

L’apprentissage automatique (ou artificiel) (machine-learning en anglais) est un des champs d’étude de l’intelligence artificielle. Commençons par la définition de l‟AAAI et celle fournie dans l‟avant-propos de (Cornuéjols et al.,2002).
L‟apprentissage artificiel fait référence à la capacité d‟un système à acquérir et intégrer de façon autonome des connaissances.
Cette notion englobe toute méthode permettant de construire un modèle de la réalité à partir de données, soit en améliorant un modèle partiel ou moins général, soit en créant complètement le modèle [22].
L’apprentissage automatique fait référence au développement, l’analyse et l’implémentation de méthodes qui permettent à une machine (au sens large) d’évoluer et de remplir des tâches associées à une intelligence artificielle grâce à un processus d’apprentissage. Cet apprentissage permet d’avoir un système qui s’optimise en fonction de l’environnement, les expériences et les résultats observés.

Voyons quelques exemples. La capacité d‟apprentissage est une caractéristique des êtres vivants. De la naissance à l‟âge adulte, les êtres vivants acquièrent de nombreuses capacités qui leur permettent de survivre dans leur environnement. L‟apprentissage d‟un langage, de l‟écriture et de la lecture sont de bons exemples des capacités humaines, et des phénomènes mis en jeu : apprentissage par cœur, apprentissage supervisé par d‟autres êtres humains, apprentissage par généralisation.
Une application classique de l‟apprentissage artificiel est la reconnaissance de caractères manuscrits, tels qu‟ils apparaissent sur une enveloppe. La difficulté tient au fait que la variété des formes rencontrée est infinie. L‟apprentissage par cœur n‟est pas possible, et il faut donc être capable de généraliser à partir d‟un ensemble d‟exemples de caractères.
– Quelques mots d’Histoire…
L‟apprentissage artificiel est une discipline jeune, à l‟instar de l‟Informatique et de l‟Intelligence artificielle. Il se situe au carrefour d‟autres disciplines: philosophie, psychologie, biologie, logique, mathématique [22].les premières études remontent à des travaux de statistique dans les années 1920. C‟est après la seconde guerre mondiale que les premières expériences deviennent possibles. Se développent ensuite dans les années 1960 les approches connexionnistes avec des perceptrons, et la reconnaissance des formes. La mise en évidence des limites du perceptron simple arrête toutes les recherches dans ce domaine jusqu‟à la renaissance dans les années 1980. Les années 1970 sont dominées par des systèmes mettant l‟accent sur les connaissances, les systèmes experts, Les limites de tels systèmes se font sentir dans les années 1980, pendant lesquelles a lieu le retour du connexionnisme avec un nouvel algorithme d‟apprentissage.

Les mathématiciens commencèrent à s‟éloigner du cadre cognitif de l‟apprentissage pour envisager le problème sous l‟angle de l‟optimisation, pendant qu‟apparaissaient de nouvelles méthodes comme les arbres de décision ou l‟induction de programmes logiques.
L‟influence de la théorie statistique de l‟apprentissage s‟est réellement fait sentir dans les années 1990, avec l‟ouvrage de Vapnik.

Dans le présent chapitre, nous commencerons par introduire les concepts fondamentaux du Machine Learning supervisé dans le cas de la classification. Nous validerons ensuite cette approche en effectuant une analyse statistique de l’apprentissage, principalement basée sur la théorie de Vapnik [31]. Finalement, nous présenterons les principales étapes de la mise en pratique de la méthodologie ML. Dans la dernière section de ce chapitre nous présentons les différentes méthodes de classification.
………

Si le lien ne fonctionne pas correctement, veuillez nous contacter (mentionner le lien dans votre message)
Apprentissage incrémental et machines à vecteurs supports (3.1 MO) (Rapport PDF)