miniatura|Vista simplificada d'una xarxa neuronal artificial avançada Una xarxa neuronal és una xarxa o circuit de neurones, o en un sentit modern, una xarxa neuronal artificial, composta de neurones o nodes artificials. Així, una xarxa neuronal és una xarxa neuronal biològica, formada per neurones biològiques reals, o una xarxa neuronal artificial, per resoldre problemes d'intel·ligència artificial (IA). Les connexions de la neurona biològica es modelen com a pesos. Un pes positiu reflecteix una connexió excitadora, mentre que els valors negatius signifiquen connexions inhibidores. Totes les entrades es modifiquen per un pes i es sumen. Aquesta activitat es coneix com una combinació lineal. Finalment, una funció d'activació controla l'amplitud de la sortida. Per exemple, un rang acceptable de sortida sol estar entre 0 i 1, o bé podria ser -1 i 1.
Aquestes xarxes artificials es poden utilitzar per a models predictius, control adaptatiu i aplicacions on es poden entrenar mitjançant un conjunt de dades. L'autoaprenentatge resultant de l'experiència es pot produir a les xarxes, que poden derivar conclusions d'un conjunt d'informació complexa i aparentment no relacionada.
Visió general Una xarxa neuronal biològica està composta per un grup de neurones connectades químicament o associades funcionalment. Una sola neurona pot estar connectada a moltes altres neurones i el nombre total de neurones i connexions en una xarxa pot ser extens. Les connexions, anomenades sinapsis, generalment es formen des d'axons fins a dendrites, tot i que són possibles sinapsis dendrodendrítiquesArbib, p.666 A part de la senyalització elèctrica, hi ha altres formes de senyalització que sorgeixen de la difusió del neurotransmissor.
La intel·ligència artificial, el modelatge cognitiu i les xarxes neuronals són paradigmes de processament d'informació inspirats en la forma en què els sistemes neuronals biològics processen les dades. La intel·ligència artificial i el modelatge cognitiu intenten simular algunes propietats de les xarxes neuronals biològiques. En el camp de la intel·ligència artificial, les xarxes neuronals artificials s'han aplicat amb èxit al reconeixement de veu, a l'anàlisi d'imatges i al control adaptatiu, per tal de construir agents de programari (en ordinadors i videojocs) o robots autònoms .
Històricament, els ordinadors digitals van evolucionar a partir del model von Neumann i funcionen mitjançant l'execució d'instruccions explícites mitjançant l'accés a la memòria per part de diversos processadors. D'altra banda, els orígens de les xarxes neuronals es basen en esforços per modelar el processament d'informació en sistemes biològics. A diferència del model de von Neumann, la informàtica de xarxes neuronals no separa memòria i processament.
La teoria de xarxes neuronals ha servit tant per identificar millor el funcionament de les neurones del cervell com per proporcionar la base per als esforços per crear intel·ligència artificial.
Història La base teòrica preliminar per a les xarxes neuronals contemporànies va ser proposada independentment per Alexander Bain (1873) i William James (1890). En el seu treball, tant els pensaments com l'activitat corporal resultaven de les interaccions entre neurones del cervell. miniatura|Simulació per ordinador de l'arquitectura de ramificació de les dendrites de les neurones piramidals. Per a Bain, cada activitat conduïa al disparament d'un determinat conjunt de neurones. Quan es repetien les activitats, les connexions entre aquestes neurones s'enfortien. Segons la seva teoria, aquesta repetició va ser la que va conduir a la formació de la memòria. La comunitat científica general de l'època era escèptica amb la perquè requeria el que semblava ser un nombre desmesurat de connexions neuronals dins del cervell. Ara és evident que el cervell és extremadament complex i que el mateix "cablejat" cerebral pot gestionar múltiples problemes i entrades.
La era similar a la de Bain, no obstant això, va suggerir que els records i les accions resultaven del corrent elèctric que circulava entre les neurones del cervell. El seu model, en centrar-se en el flux de corrents elèctrics, no requeria connexions neuronals individuals per a cada memòria o acció.
CS Sherrington (1898) va dur a terme experiments per provar la teoria de James. Corria corrents elèctrics per les medul·les espinales de les rates. No obstant això, en lloc de demostrar un augment del corrent elèctric tal com va projectar James, Sherrington va trobar que la intensitat del corrent elèctric disminuïa a mesura que les proves continuaven al llarg del temps. És important destacar que aquest treball va conduir al descobriment del concepte d' habituació .
McCulloch i Pitts (1943) van crear un model computacional per a xarxes neuronals basat en matemàtiques i algorismes. Aquest model l'anomenaven lògica llindar. El model va obrir el camí perquè la investigació de xarxes neuronals es dividís en dos enfocaments diferents. Un enfocament es va centrar en els processos biològics del cervell i l'altre es va centrar en l'aplicació de xarxes neuronals a la intel·ligència artificial.
A finals dels anys 40, el psicòleg Donald Hebb crear una hipòtesi d'aprenentatge basada en el mecanisme de plasticitat neuronal que ara es coneix com a aprenentatge Hebbian. L'aprenentatge Hebbian es considera una regla d'aprenentatge no supervisada “típica” i les seves variants posteriors van ser els primers models de potenciació a llarg termini. Aquestes idees van començar a aplicar-se als models computacionals el 1948 amb les màquines de tipus B de Turing .
Farley i Clark (1954) van utilitzar primer màquines computacionals, després anomenades calculadores, per simular una xarxa Hebbian al MIT. Altres màquines computacionals de xarxes neuronals van ser creades per Rochester, Holland, Habit i Duda (1956).
Rosenblatt (1958) va crear el perceptron, un algorisme per al reconeixement de patrons basat en una xarxa informàtica d'aprenentatge de dues capes mitjançant una simple suma i resta. Amb la notació matemàtica, Rosenblatt també va descriure circuits no al perceptró bàsic, com l'exclusiu-o circuit, un circuit el càlcul matemàtic del qual no es va poder processar fins després que l'algorisme de propagació posterior fos creat per Werbos (1975).
La investigació sobre xarxes neuronals es va estancar després de la publicació de la investigació sobre aprenentatge automàtic de Marvin Minsky i Seymour Papert (1969). Van descobrir dos problemes clau amb les màquines computacionals que processaven xarxes neuronals. El primer problema va ser que les xarxes neuronals d'una sola capa eren incapaces de processar l'exclusiu o el circuit. El segon problema significatiu va ser que els ordinadors no eren prou sofisticats per manejar de manera efectiva el temps de llarga durada requerit per les grans xarxes neuronals. La investigació de xarxes neuronals es va desaccelerar fins que els ordinadors van aconseguir una major potència de processament. També va ser clau en els avanços posteriors l'algorisme de propagació posterior que va resoldre efectivament l'exclusiu o problema (Werbos 1975).
El processament distribuït en paral·lel de mitjan anys vuitanta es va popularitzar amb el nom de connexionisme. El text de Rumelhart i McClelland (1986) va proporcionar una exposició completa sobre l'ús del connexionisme en ordinadors per simular processos neuronals.
Les xarxes neuronals, tal com s'utilitza en intel·ligència artificial, tradicionalment s'han vist com models simplificats de processament neuronal al cervell, tot i que es discuteix la relació entre aquest model i l'arquitectura biològica cerebral, ja que no és clar fins a quin punt les xarxes neuronals artificials reflecteixen el cervell funció.
Intel·ligència artificial Una xarxa neuronal (NN), en el cas de les neurones artificials anomenades xarxa neuronal artificial (ANN) o xarxa neuronal simulada (SNN), és un grup interconnectat de neurones naturals o artificials que utilitza un model matemàtic o computacional per al processament de la informació basat en un enfocament connexionalista de la computació. En la majoria dels casos, un ANN és un sistema adaptatiu que canvia la seva estructura en funció de la informació interna o externa que flueix a través de la xarxa.
En termes més pràctics, les xarxes neuronals són eines de modelatge de dades estadístiques no lineals o eines de presa de decisions. Es poden utilitzar per modelar relacions complexes entre entrades i sortides o per trobar patrons en les dades.
Una xarxa neuronal artificial implica una xarxa d'elements de processament senzills (neurones artificials) que poden presentar un comportament global complex, determinat per les connexions entre els elements de processament i els paràmetres dels elements. Les neurones artificials van ser proposades per primera vegada el 1943 per Warren McCulloch, neurofisiòleg, i Walter Pitts, lògic, que va col·laborar per primera vegada a la Universitat de Chicago.
Un tipus clàssic de xarxa neuronal artificial és la xarxa Hopfield recurrent.
El concepte de xarxa neuronal sembla haver estat proposat per primera vegada per Alan Turing en el seu article de 1948, Intelligent Machinery, en el qual les anomenava "màquines no organitzades de tipus B".
La utilitat dels models de xarxes neuronals artificials rau en el fet que es poden utilitzar per inferir una funció a partir d'observacions i també per utilitzar-la. Les xarxes neuronals no supervisades també es poden utilitzar per aprendre representacions de l'entrada que capturen les característiques destacades de la distribució d'entrada, per exemple, vegeu la màquina de Boltzmann (1983) i, més recentment, algorismes d'aprenentatge profund, que implícitament poden aprendre la funció de distribució de la dades observades. L'aprenentatge en xarxes neuronals és particularment útil en aplicacions on la complexitat de les dades o tasques fa que el disseny d'aquestes funcions a mà no sigui pràctic.
Aplicacions Les xarxes neuronals es poden utilitzar en diferents camps. Les tasques a les quals s'apliquen les xarxes neuronals artificials tendeixen a incloure's en les grans categories següents:
Aproximació de funcions o anàlisi de regressió, inclosa la predicció i modelització de sèries temporals. Classificació, inclòs el reconeixement de patrons i seqüències, detecció de novetats i presa de decisions seqüencials. Processament de dades, incloent filtratge, agrupació, separació de senyals cecs i compressió.
Les àrees d'aplicació de les ANN inclouen identificació i control de sistemes no lineals (control de vehicles, control de processos), joc i presa de decisions (backgammon, escacs, carreres), reconeixement de patrons (sistemes de radar, identificació de rostres, reconeixement d'objectes), reconeixement de seqüències (gest, veu, reconeixement de text escrit a mà), diagnòstic mèdic, aplicacions financeres, mineria de dades (o descobriment de coneixement en bases de dades, "KDD"), visualització i filtratge de correu brossa de correu electrònic. Per exemple, és possible crear un perfil semàntic dels interessos de l'usuari que sorgeixi a partir d'imatges entrenades per al reconeixement d'objectes.
Neurociències La neurociència teòrica i computacional és el camp relacionat amb l'anàlisi i el modelatge computacional de sistemes neuronals biològics. Atès que els sistemes neuronals estan íntimament relacionats amb els processos i el comportament cognitius, el camp està estretament relacionat amb la modelització cognitiva i conductual.