APPRENTISSAGE PROFOND ou DEEP LEARNING

Carte mentale

Élargissez votre recherche dans Universalis

Réseaux de neurones formels

L’histoire des réseaux de neurones formels remonte à 1943, avant même la construction des premiers ordinateurs électroniques, alors que l’on commence seulement à fabriquer des calculateurs électromécaniques au moyen de relais téléphoniques. L’idée de dresser un parallèle entre ces machines et le cerveau humain traverse les pensées du mathématicien américain Walter Pitts (1923-1969) qui, âgé d’à peine vingt ans à l’époque, écrit avec le neurophysiologiste américain Warren McCulloch (1898-1969), un article intitulé « A logical calculus of immanent ideas in nervous activity » (« Un calculateur logique des idées immanentes dans l'activité nerveuse »). Ils y établissent une analogie entre, d’un côté, ces relais téléphoniques et les cellules du cerveau – les neurones – et, d’un autre côté, les connexions entre ces relais téléphoniques et les liaisons dites synaptiques qui relient les neurones entre eux. Pour résumer ces analogies, on appelle « neurones formels » ces relais téléphoniques, et « synapses formelles » leurs connexions. Afin de mimer les phénomènes biologiques dits de « plasticité synaptique » qui affectent la plus ou moins grande connectivité de l’influx nerveux entre les neurones et qui se trouvent à l’origine de l’apprentissage physiologique, on module les synapses formelles d’un nombre plus ou moins grand que l’on appelle le « poids synaptique » et qui joue sur l’intensité de la transmission d’information entre les neurones formels.

Outre la description de cette analogie, McCulloch et Pitts démontrent qu’en organisant ces neurones formels en trois couches, et en connectant les neurones formels de chaque couche avec des neurones formels de la couche suivante par des synapses formelles dont on ajuste correctement les poids synaptiques, on peut réaliser n’importe quelle fonction logique. Ce théorème d’universalité est essentiel.



1  2  3  4  5
pour nos abonnés,
l’article se compose de 5 pages




Écrit par :

Classification


Autres références

«  APPRENTISSAGE PROFOND ou DEEP LEARNING  » est également traité dans :

APPRENTISSAGE, psychologie

  • Écrit par 
  • Daniel GAONAC'H, 
  • Jean-François LE NY
  •  • 5 932 mots
  •  • 2 médias

Dans le chapitre « Depuis les années 1990 »  : […] Alors que, dans les années 1970-80, la psychologie cognitive a accordé plus d’attention à l’étude de la mémoire qu’à celle de l’apprentissage, l’évolution des connaissances à partir de la fin des années 1980 a conduit à une fusion des concepts et des théories de ces deux champs. En effet, les théories récentes qui cherchent à rendre compte des processus d’apprentissage s’appuient sur les conceptio […] Lire la suite☛ http://www.universalis.fr/encyclopedie/apprentissage-psychologie/#i_57034

BIG DATA

  • Écrit par 
  • François PÊCHEUX
  •  • 6 152 mots
  •  • 3 médias

Dans le chapitre « Les aspects algorithmiques et logiciels du big data »  : […] Les logiciels de gestion de bases de données traditionnels s’appuient sur les mathématiques relatives à la théorie des ensembles pour appliquer des algorithmes de recherche exhaustifs et déterministes (pour un algorithme donné, les mêmes données initiales impliquent le même résultat en sortie) sur des données fortement structurées (en tables contenant des lignes d’informations pertinentes appelées […] Lire la suite☛ http://www.universalis.fr/encyclopedie/big-data/#i_57034

INTELLIGENCE ARTIFICIELLE (IA)

  • Écrit par 
  • Jean-Gabriel GANASCIA
  •  • 5 073 mots
  •  • 5 médias

Dans le chapitre « Renaissance de l’intelligence artificielle  »  : […] Depuis 2010, la puissance des machines permet d’exploiter de grandes masses de données (ce que l’on appelle couramment les b ig d ata ) avec des techniques d’apprentissage machine qui se fondent sur le recours à des réseaux de neurones formels, c’est-à-dire à des techniques relativement anciennes que l’on déploie aujourd’hui sur des architectures de dimensions beaucoup plus importantes qu’auparava […] Lire la suite☛ http://www.universalis.fr/encyclopedie/intelligence-artificielle-ia/#i_57034

Voir aussi

Pour citer l’article

Jean-Gabriel GANASCIA, « APPRENTISSAGE PROFOND ou DEEP LEARNING », Encyclopædia Universalis [en ligne], consulté le 06 décembre 2019. URL : http://www.universalis.fr/encyclopedie/apprentissage-profond-deep-learning/