Cherche doc sur reseaux neuronaux (livres ou electronique)

Bonjour,

j’aurais une demande quand a savoir si vous auriez des livres ou de la doc a me recommander sur les réseaux neuronaux.
Sachant que j’en ai cherché et que je ne comprends pas celle que j’ai cherché.

Je m’explique, je ne comprends quasiment aucun symbole mathématique, j’aurais besoin d’un livre ou de la doc qui explique les réseaux neuronaux avec des exemples clairs et pas de symboles mathématique ou qui les explique a coté.
bref de la vulgarisation sur ce sujet.
(la définition de wikipedia anglais est un parfait contre exemple).

merci
Bussiere

Bon, y’a des formules mathématiques, mais l’introduction est lisible (et ça date un peu)
Cours Bordeaux 2
ca aussi, tiens
(en même temps ce sont principalement des objets mathématiques qui n’ont qu’une parenté très lointaine avec les neurones biologiques, c’est un peu normal qu’il y’ait des formules)

Dans les bouquins, il y a Neural Networks for Pattern Recognition qui, d’après la page Amazon, a été écrit par « Chris Bishop (Auteur), C. M. Bishop (Auteur), Christopher M. Bishop (Auteur) ».

C’est le bouquin utilisé pour le cours de DEA d’apprentissage machine à mon université et il est généralement reconnu comme un très bon bouquin. Maintenant, il requiert des bases en maths (pas très élevées, genre Maths Sup), donc ça dépend de ton niveau. Je ne connais pas de bonne référence sur le Net (en tout cas pas compréhensibles par quelqu’un qui ne connaît rien au domaine).

Si ça t’intéresse, je peux toujours t’envoyer le chapitre de ma thèse qui les présente, mais ce sera probablement un peu sommaire à ton goût.

Edit: un doute m’étreint. Tu parles bien des réseaux de neurones artificiels, hein ?

Edit2: en document Web, il y a la thèse de Léon Bottou (en français).

Si tu ne veux pas des fonctions mathématiques alors laisse tomber tout de suite.
UN réseau de neurones est uniquement une façon plus souple de modéliser une fonction à plusieurs variables. J’en ai fait un peu en stage et c’est sympa mais comme je ne suis pas biologiste je n’ai pas trop vu le rapport avec des neurones (il faut dire que je n’ai aucune idée du fonctionnement des neurones en réseau :)).

En gros un réseau de neurones est un outil mathématique qui te permet par apprentissage de modéliser n’importe quel processus du moment que tu le connais un peu. Le but de la modélisation est bien sûr de pouvoir ensuite prévoir des cas ‘inconnus’. Dans la pratique, tu as des entrées des sorties (mieux vaut en traiter une seule à la fois). A partir de ça tu ‘apprends’ à ton réseau à partir d’un jeu d’exemples. Tu valides ton apprentissage à partir d’un second jeu d’entrées/sortie. Et si tout s’est bien passé tu peux alors prédire une sortie à partir d’un jeu de paramètre d’entrée donné.

C’est assez puissant mais il faut maitriser la mise en oeuvre.

'tain !! J’hallucine. Merci pour la vulgarisation. Signé un analphabètes des formules mathématiques.

Je ne sais pas si Bussière est comme moi, mais ce n’est pas aux maths que je suis allergiques mais aux formules avec des sigmas, des caractères grecs ou tout autre caractère ésotérique.

Si on trouve un document qui dit la même chose qu’une formule mathématique mais tout en français du début à la fin avec des formules informatiques, alors tout baigne.

N’est-ce pas Bussière ?

+1, même si en fait t’as juste besoin d’implémenter la règle de mise à jour des poids synaptiques, pas besoin de savoir que ça bouge un plan multi-dimensionnel derrière.

Tiens petite explication rapide de l’aspect biologique, je m’ennuie un peu :crying: :

  • Un neurone, biologiquement parlant, ça reçoit des signaux d’entrée et ça ressort un signal de sortie. Les entrées arrivent sur les synapses, sous la forme d’un train d’impulsion électriques (bon en fait aussi transport chimique à la synapse, mais on va pas tout présenter quand même). Il y a ensuite une intégration spatiale (suivant le positionnement des synapses par rapport au « corps » du neurone) et temporelle (suivant quand les impulsions arrivent) le tout combiné à un « poids synaptique ». Suivant ces entrées, le neurone va produire une sortie ou pas. La décision est non-linéaire, suivant si ça dépasse un certain seuil d’activation (je simplifie, c’est un processus électrochimique). La sortie est aussi un train d’impulsion.
  • On peut modéliser le neurone à différent niveau, suivant si on veut être proche de la biologie (et donc on fait des modèles à intégration ou pire) ou proche du principe général. Dans un réseau de neurone, on utilise la modélisation la plus abstraite possible, ce qui explique que ça ressemble plus trop à un neurone biologique.
  • On garde les principes suivant:
  • Les entrées sont « intégrées », ici simplement sommées avec des pondération (pour représenter que telle entrée est plus importante que telle autre). La somme des entrée est appelée somme pré-synaptique.
  • On applique une fonction non-linéaire à cette somme. La plus conne, c’est une fonction seuil, un threshold: si c’est plus grand qu’un nombre donné, ca sort 1, sinon ça sort 0. De plus jolies fonctions donnent un nombre entre 0 et 1 (tanh, sigmoid).
  • La sortie correspond à l’output de la fonction non-linéaire.
  • Si tu utilise des nombres entre 0 et 1 pour les entrées et les sorties, alors tu peux assimiler ça à un « niveau d’activation » du neurone, 1 étant le maximum d’activation.

Si tu utilise un neurone unique, avec une seule sortie, tu peux déjà classifier des exemples entre 2 classes (s’ils sont linéairement classifiables, en gros s’ils sont « simple » à départager). Si tu veux classifier des choses plus compliquées, par exemple reconnaitre un visage ou autre, alors tu dois utiliser plusieurs neurones, en plusieurs couches (par exemple: entrées → neurones première couche → neurones deuxième couche → sortie du classificateur), tu peux reconnaitre des choses plus intéressantes.

Voilà en très gros.

Le bouquin de Bishop est en effet très sympa, je conseille aussi celui de Haykin, « Neural Networks: A Comprehensive Foundation », qui est moins mathématique et plus accessible (et intéressant) à mon goût.

[quote=“phili_b, post:5, topic: 47393”]'tain !! J’hallucine. Merci pour la vulgarisation. Signé un analphabètes des formules mathématiques.

Je ne sais pas si Bussière est comme moi, mais ce n’est pas aux maths que je suis allergiques mais aux formules avec des sigmas, des caractères grecs ou tout autre caractère ésotérique.

Si on trouve un document qui dit la même chose qu’une formule mathématique mais tout en français du début à la fin avec des formules informatiques, alors tout baigne.

N’est-ce pas Bussière ?[/quote]
Yep

juste que pour moi je n’arrive a lire les formules mathématiques je bloque dessus je peux comprendre et manipuler les concepts derriere je suis meme doués pour comprendre instinctivement les probas et les manipuler mais voir un poly avec que des formules mathématiques ca me bloque

merci pour la doc tout le monde

bussiere

Je suis assez d’accord, cependant, le terme même de neurone est criticable dans le cas des réseaux de neurones. Il donne une fausse impression « d’intelligence » ou de biologie qui porte à confusion dans la vulgarisation.
En même temps, automates à état c’est moins sexy.

@Azhag : La méthode mathématique est donc la même que celle de la biologie :slight_smile:
@Bussière : force toi un peu à manipuler les formules mathématiques. C’est comme n’importe quel outil. C’est un peu dur à maitriser mais une fois que tu en as la maitrise c’est vraiment puissant. Un peu comme n’importe quel langage. Il n’y a pas de mystère il faut pratiquer pour arriver à la maitrise.
Certe tu pourras faire pas mal de trucs sans langage mais tu auras du mal à communiquer tes idées et à développer des théories riches. Après si c’est juste pour ta culture personnelle alors la description de Azhag peut suffire.

[quote=“kaneloon, post:8, topic: 47393”]Je suis assez d’accord, cependant, le terme même de neurone est criticable dans le cas des réseaux de neurones. Il donne une fausse impression “d’intelligence” ou de biologie qui porte à confusion dans la vulgarisation.
En même temps, automates à état c’est moins sexy.[/quote]
Euh en fait, un neurone biologique est pas intelligent pour un sous. C’est la combinaison d’un nombre improbable de neurones et de leurs connexion (surtout du nombre de connexions…) qui semble génèrer ce qu’on appelle intelligence. Et encore on en connait pas grand chose.
Comme je disais et à mon avis, oui le neurone mathématique est inspiré du biologique, c’est juste une abstraction.

Après clair que tu peux tout réécrire avec des vecteurs et des dérivées partielles, du coup le coté biologique tu le vois moins, mais la base à un sens. Et je vois pas ce qu’un automate à états vient faire ici, un réseau de neurone c’est souvent utilisé comme classificateur, tu lui montre un truc, il te sort une décision.

Je sais bien, sauf que dans le sens commun, le neurone est proche de la notion d’intelligence, c’est pour ça que je parle d’ambiguïté.

[quote=« Azhag, post:10, topic: 47393 »]Comme je disais et à mon avis, oui le neurone mathématique est inspiré du biologique, c’est juste une abstraction.

Après clair que tu peux tout réécrire avec des vecteurs et des dérivées partielles, du coup le coté biologique tu le vois moins, mais la base à un sens. Et je vois pas ce qu’un automate à états vient faire ici, un réseau de neurone c’est souvent utilisé comme classificateur, tu lui montre un truc, il te sort une décision.[/quote]
Une décision… Je dirais une réponse plutôt, m’enfin bref :slight_smile:

Kaneloon, l’automate a état (fini ou infini) n’est pas un réseau de neurone (ou plutot le contraire).

Je connais que peu les réseaux de neurones mais je bosse depuis 5 ans sur des thèmes se basant sur des sémantiques d’automate à état (pour information EFSM, Hybrid Automata, IOSTS).

Un automate à état fonctionne sur des principes beaucoup plus simple qui se résume en gros pour quelques chose d’un peu évoluer à un ensemble d’état/transition :

Etat d’origine ------ [Garde sur l’état et/ou l’action de communication avec l’environnement] Action de communication avec l’environnement [Mise à jour des variables du systèmes] ----------> Etat d’arrivée

Après suivant le modèle sémantique les actions ou la portée des gardes sont différentes. Mais définitivement c’est un processus séquentiel, discret alors que les réseaux de neurones sont censés pouvoir représenter aussi des flux de type analogique je crois (corrigez moi si je me trompe). De plus une SM est défini a l’avance. Bref y’a pas cette espèce d’ “apprentissage” ou de “raffinnement”

Des exemples simples de StateMachine sont : les distributeurs de billes (ATM), les machines à café payante, et en plus compliqué tout les protocoles de communication type internet:)