public:ncom:2.7_exemples

Le modèle mathématique qui implémente le principe d'assemblée de la manière la plus simple est le modèle de Hopfield \shortcite{Hop82}. Ce modèle est un réseau de neurones récurrent à unités binaires développant une dynamique de point fixe multistable. Malgré des limitations bien connues en terme de capacité de stockage \shortcite{Amit1985}, le réseau de Hopfield présente l'avantage de fonctionner avec des principes compatibles avec les idées de Hebb (caractère local de la règle de plasticité, analogie possible entre attracteur et assemblée), et donc de constituer un modèle plus "biologiquement plausible" que les réseaux de neurones traditionnels.

Un réseau de Hopfield est un graphe non-orienté et pondéré $G$, constitué de $N$ nœuds et défini par une matrice de couplages $\boldsymbol{J} = \{J_{i,j}\}_{i \in 1..N,j \in 1..N}$ ainsi que des seuils d'activation $\boldsymbol{\theta} = \{\theta_i\}_{i \in 1..N}$. La mise à jour de l'état du nœud $i$ repose sur l'observation locale de ses voisins, selon~: $$x_i \leftarrow H(\sum_j J_{ij} x_j - \theta_i)$$ avec $H$ fonction de Heaviside.

Le réseau de Hopfield implémente un principe de \textit {mémoire associative}. Il apprend "par cœur" un certain nombre de scènes (ou images). Il est ensuite capable, lorsque certains constituants d'une scène apprise sont présentés, de compléter la scène avec les éléments manquants, de rectifier les valeurs erronées etc. Ainsi, si $\boldsymbol{P}^{(1)}, ..., \boldsymbol{P}^{(K)}$ est une base de vecteurs binaires (images) de taille $N$, le choix : $$ \left\{ \begin{array}{ll} \forall i,j, & J_{ij} = \sum_k ({P}_i^{(k)} - 0.5) (P_j^{(k)}-0.5) \\ \forall i, & \theta_i = 0.5 \sum_j J_{ij} \end{array} \right. $$ permet d'organiser l'espace d'états en un nombre fini de \textit{bassins d'attraction} associés aux différents motifs de la base. L'activité du réseau finit par converger vers un des ces patrons d'activité stationnaires, en fonction des conditions initiales. Chacun de ces attracteurs s'interprète ici comme une assemblée distincte, c'est-à-dire comme un circuit de renforcement mutuel aboutissant à la stabilisation d'un patron d'activité macroscopique.

  • public/ncom/2.7_exemples.txt
  • Dernière modification : 2017/04/06 22:54
  • de edauce