Différences

Ci-dessous, les différences entre deux révisions de la page.

--- public:ncom:2.3_traitement_sequentiel [2017/04/06 21:25] – [Apprentissage automatique] edauce
+++ public:ncom:2.3_traitement_sequentiel [2017/04/14 11:31] (Version actuelle) – [2.3.1 Apprentissage automatique] edauce
@@ Ligne 1: / Ligne 1: @@
+===== 2.3 Traitement séquentiel =====
+Une approche courante en modélisation est de stipuler :
+  * l'existence d'une chaîne de traitement séquentielle et hiérarchique,
+  * des organes des sens vers des centres de traitement de plus en plus spécialisés,
+  * conduisant à l'identification d'un objet de l'environnement
+  * vis à vis duquel un programme moteur adéquat peut être déclenché.
+Selon cette approche, il y a un programme superviseur, un //tableau de branchement// qui associe les réponses motrices aux situations identifiées.
+Dans une chaîne de traitement séquentiel,
+  * chaque couche de traitement est constituée d'un certain nombre de filtres sélectionnant certaines caractéristiques de la scène sensorielle.
+  * Puis les couches suivantes effectuent des combinaisons de ces filtres,
+  * puis les suivantes des combinaisons de combinaisons etc.
+On parle  de "**pattern matching**".
+==== 2.3.1 Apprentissage automatique ====
+l’apprentissage artificiel est un domaine de l’informatique qui questionne les propriétés de calculateurs capables d’apprendre:
+{{ :public:ncom:neuco-ml.png?300 |}}
+  * Un calculateur se caractérise par son schéma de calcul  $G$  capable de produire un résultat  $u$  à partir des opérandes  $I$ .
+ $u = f(x,I,G)$
+  * Les résultats peuvent être corrects ou erronés.
+  * Définir un algorithme d’apprentissage revient donc à modifier le schéma de calcul de manière à ce qu’il produise moins d’erreurs.
+  * par exemple à l’aide d’une fonction de coût  $J$  : l’apprentissage se définit alors comme un problème d’optimisation sous contraintes)
+ $G^* = \arg\min_G J(G)$
+==== 2.3.2 Pattern matching ====
+<note tip>
+La tâche la plus emblématique de l’apprentissage automatique est la tache de **classification**.
+  * La classification consiste à établir
+    * l’appartenance d’un vecteur d’entrée  $I$
+    * à une classe discrète  $i$ .
+  * Cette tache revient donc à découper l’espace d’entrée
+    * en classes distinctes
+    * via des opérateurs **non-linéaires**.
+    * On peut parler de digitalisation de l’espace.
+</note>
+Cette organisation de l’espace en regions:
+  * repose sur des operateurs d’appariement permettant de comparer
+    * les donnees d’entree
+    * avec un dictionnaire de formes stockées en memoire.
+  * Cette série de comparaisons est suivie par une délibération qui,
+    * par comparaison de scores d’appariement,
+    * va permettre de désigner la classe presentant le meilleur score.
+Le  "**pattern matching**" (correspondance de forme)
+est l'opération consistant à mettre en correspondance
+  * un modèle  $\boldsymbol{w}$  (patron)
+  * avec une forme  $\boldsymbol{I}$  (signal),
+  * dans le cas le plus simple via un produit scalaire  $\langle\boldsymbol{w},\boldsymbol{I}\rangle$
+La recherche de correspondances est réalisée en général :
+  * de manière centralisée
+    * dans les modèles d’appariement discret
+    * et dans les modèles probabilistes.
+Si  $\{\boldsymbol{w}_1, ..., \boldsymbol{w}_K\}$  est un ensemble de caractéristiques à détecter dans le signal, l'opération de correspondance de forme consiste à sélectionner la caractéristique la plus similaire au signal, soit:
+ $\hat{k}=\arg\max_k \langle \boldsymbol{w}_k,\boldsymbol{I}\rangle$
+On utilisera ici le terme "appariement" comme traduction de "pattern matching".
+<note tip>
+Le principe de l'appariement appartient au monde de
+l'apprentissage automatique et du traitement du signal~:
+  * Il prend historiquement ses racines dans la décomposition de Fourier, et s'est développé d'une part sous la forme de la compression de signal, comme par exemple la décomposition en des ondelettes, ou plus généralement les bases de filtres orthogonaux (ou pas), incomplètes, complètes ou "surcomplètes".
+  * L'appariement est également le principe à la base des algorithmes d’apprentissage automatique, où des dictionnaires  $\{\boldsymbol{w}_1, ..., \boldsymbol{w}_K\}$  se construisent par extraction d'invariants morphologiques (ou vecteurs caractéristiques) à partir des données présentées.
+</note>
+==== 2.3.3 Auto-encodage et champs récepteurs====
+L'apprentissage de vecteurs caractéristiques est au cœur de l'apprentissage automatique,
+  * où les patrons caractéristiques sont déduits des données présentées.
+  * Différents algorithmes permettent de construire de telles chaînes de traitement de manière automatique
+    * à partir d'une simple base d'exemples,
+    * via des mécanismes d'"**auto-encodage**".
+  * Le calcul réalisé par les neurones est dans ce cas
+    * le degré d'appartenance (ou de correspondance) à un patron donné,
+    * sur un intervalle borné (en général entre 0 et 1).
+  * L'opération répétée sur de multiples neurones
+    * produit de nombreux degrés d'appartenance,
+    * cet ensemble de degrés d'appartenance pouvant lui-même être interprété comme une nouvelle forme pour un traitement ultérieur (sur le principe du "deep learning" {{http://www.mitpressjournals.org/doi/abs/10.1162/neco.2006.18.7.1527|Hinton2006}} par exemple),
+    * constituant un principe de calcul distribué efficace.
+En modélisation neuronale, cette approche se traduit par le terme de ``champ récepteur'',
+  * avec une réponse maximale de la cellule lorsque le signal correspond à la forme fixée {{http://onlinelibrary.wiley.com/doi/10.1113/jphysiol.1962.sp006837/full|HUBELWIESEL62}}.
+  * Elle donne naissance à la reconnaissance par dictionnaire de formes, très utilisée à la fois en traitement d'images et pour les modèles de la perception visuelle {{http://www.nature.com/neuro/journal/v2/n1/abs/nn0199_79.html|Rao1999}}.