O rețea Hopfield (sau memorie asociativă) este o formă de rețea neurală recurentă care poate servi ca memorie adresabilă prin conținut. Rețelele Hopfield, numite după John Hopfield, constau dintr-un singur strat de neuroni, în care fiecare neuron este conectat la toți ceilalți, nu și la el însuși. Aceste conexiuni sunt bidirecționale și simetrice, ceea ce înseamnă că ponderea conexiunii de la neuronul la neuronul este aceeași cu ponderea celei de la neuronul la neuronul . Șabloanele pot fi invocate asociativ prin fixarea anumitor intrări, care împing rețeaua să evolueze dinamic în sensul minimizării unei funcții energetice, către stăride energie minimă local care corespund șabloanelor stocate. Șabloanele sunt învățate asociativ (sau „stocate”) printr-un algoritm de învățare Hebbian.
Una dintre caracteristicile cheie ale rețelelor Hopfield este capacitatea lor de a readuce modele complete din intrări parțiale sau afectate de zgomote, făcându-le să fie robuste în fața datelor incomplete sau corupte. Legătura lor cu mecanica statistică, rețelele recurente și psihologia cognitivă umană a dus la aplicarea lor în diferite domenii, inclusiv fizică, psihologie, neuroștiințe și teoria și practica învățării automate.
Istorie O origine a conceptului de memorie asociativă este psihologia cognitivă, anume conceptul denumit la fel în acel domeniu. Frank Rosenblatt a studiat „perceptronii cuplati încrucișat în buclă închisă”, care sunt rețele de perceptroni cu 3 straturi al căror strat mijlociu conține conexiuni recurente care se modifică după o regulă de învățare hebbiană.F. Rosenblatt, "Perceptual Generalization over Transformation Groups", pp. 63--100 in Self-organizing Systems: Proceedings of an Inter-disciplinary Conference, 5 and 6 May, 1959. Edited by Marshall C. Yovitz and Scott Cameron. London, New York, [etc.], Pergamon Press, 1960. ix, 322 p. Karl Steinbuch, care dorea să înțeleagă procesul de învățare, și inspirat de copiii săi pe care îi urmărea învățând,Eulogy: 1917 Karl Steinbuch 2005., by Bernard Widrow, Reiner Hartenstein, Robert Hecht-Nielsen, IEEE Computational Intelligence Society. page 5. August 2005. a publicat Lernmatrix în 1961.
Cercetări similare au fost efectuate cu corelograma lui (DJ Willshaw et al., 1969). În ( Kohonen, 1974) o memorie asociativă a fost antrenată prin coborâre de gradient. miniatura| O rețea perceptron cu cuplare încrucișată în buclă închisă. (1961). O altă origine a memoriei asociative a fost mecanica statistică. Modelul Ising a fost publicat în anii 1920 ca model de magnetism, dar studia echilibrul termic, care nu se modifică în timp. Roy J. Glauber a studiat în 1963 modelul Ising care evoluează în timp, ca proces ce conduce la echilibru termic (dinamica Glauber), adăugând componenta timp.
A doua componentă care a fost adăugată a fost adaptarea la stimuli. Descriind fenomenul independent, Kaoru Nakano în 1971 și Shun'ichi Amari în 1972 au propus modificarea ponderilor unui model Ising prin regula de învățare hebbiană ca model de memorie asociativă. Aceeași idee a fost publicată de în 1974, care a fost recunoscut de Hopfield în lucrarea sa din 1982.
Vezi Carpenter (1989) pentru o descriere tehnică a unora dintre aceste prime lucrări în domeniul memoriilor asociative.
Modelul Sherrington–Kirkpatrick, publicat în 1975, este o rețea Hopfield cu inițializare aleatorie. Sherrington și Kirkpatrick au descoperit că este foarte probabil ca funcția energetică a modelului SK să aibă multe minime locale. În lucrarea din 1982, Hopfield a aplicat această teorie recent dezvoltată pentru a studia rețelele Hopfield cu funcții de activare binară. Într-o lucrare din 1984, el a extins aceasta la funcțiile de activare continuă, extensie care a devenit un model standard pentru studiul rețelelor neurale prin mecanica statistică.
Un progres major în capacitatea de stocare a memoriilor a fost dezvoltat de Krotov și Hopfield în 2016 printr-o schimbare a dinamicii rețelei și a funcției energetice. Această idee a fost extinsă în continuare de Demircigil și colaboratorii în 2017. Dinamica continuă a modelelor cu capacitate mare de memorie a fost dezvoltată într-o serie de lucrări între 2016 și 2020. Memorii asociative Hopfield cu mare capacitate de stocare se numesc acum memorii dens asociative sau rețele Hopfield moderne.
În 2024, John J. Hopfield și Geoffrey E. Hinton au primit Premiul Nobel pentru Fizică pentru contribuțiile lor fundamentale la învățarea automată, cum ar fi rețeaua Hopfield. miniatura| O rețea Hopfield cu patru unități Unitățile din rețele Hopfield sunt unități cu prag binar, adică unitățile iau doar două valori diferite pentru stările lor, iar valoarea este stabilită prin verificarea dacă intrarea unității îi depășește sau nu pragul . Rețelele Hopfield discrete descriu relațiile dintre neuronii binari (activi sau nu). . La un anumit moment, starea rețelei neuronale este descrisă de un vector , care înregistrează ce neuroni se declanșează într-un cuvânt binar de biți.
Interacțiunile între neuroni au unități care, de obicei, iau valori de 1 sau -1, iar această convenție va fi folosită pe tot parcursul acestui articol. Cu toate acestea, altă literatură ar putea folosi unități care iau valori de 0 și 1. Aceste interacțiuni sunt „învățate” prin legea de asociere a lui Hebb, astfel încât, pentru o anumită stare și pentru două noduri distincte
dar .
Regula de învățare hebbiană ia forma când unitățile își asumă valori în .
Odată ce rețeaua este antrenată, nu mai evoluează. Dacă în rețeaua neurală se introduce o nouă stare a neuronilor , rețeaua acționează asupra neuronilor astfel încât
dacă dacă
unde este valoarea de prag a celui de-al -lea neuron (deseori considerată 0). În acest fel, rețelele Hopfield au capacitatea de a „reține” stările stocate în matricea de interacțiuni, deoarece dacă o stare nouă este supusă matricei de interacțiuni, fiecare neuron se va schimba până când se potrivește cu starea inițială (vezi secțiunea de mai jos).
Conexiunile într-o rețea Hopfield au de obicei următoarele restricții:
(nicio unitate nu are o legătură cu ea însăși) (conexiunile sunt simetrice)
Constrângerea conform căreia ponderile sunt simetrice garantează că funcția de energie scade monoton, respectând regulile de activare. O rețea cu ponderi asimetrice poate prezenta un comportament periodic sau haotic; cu toate acestea, Hopfield a descoperit că acest comportament este limitat la părți relativ mici ale spațiului de fază și nu afectează capacitatea rețelei de a acționa ca un sistem de memorie asociativă adresabil prin conținut.
Hopfield a modelat și rețele neurale pentru valori continuale, în care producția electrică a fiecărui neuron nu este binară, ci o valoare între 0 și 1. El a descoperit că și acest tip de rețea este capabil să stocheze și să reproducă stări memorate.
Fiecare pereche de unități și dintr-o rețea Hopfield are o conexiune care este descrisă de greutatea conectivității . În acest sens, rețeaua Hopfield poate fi descrisă formal ca un graf neorientat complet , unde este o mulțime de neuroni McCulloch–Pitts și este o funcție care leagă perechi de unități la o valoare reală, ponderea conectivității.
Actualizare Actualizarea unei unități (nodul din graf care simulează neuronul artificial) în rețeaua Hopfield se realizează folosind următoarea regulă:
Capacitatea de stocare poate fi dată ca unde este numărul de neuroni din rețea.
este ponderea conexiunii de la unitatea la unitatea . este starea unității . este pragul unității .
Actualizările în rețeaua Hopfield pot fi efectuate în două moduri diferite:
Asincron: Unitățile sunt actualizate una câte una. Unitatea de actualizat poate fi aleasă la întâmplare sau poate fi impusă o ordine predefinită încă de la început. Sincron: Toate unitățile sunt actualizate în același timp. Aceasta necesită un ceas central al sistemului pentru a menține sincronizarea. Această metodă este văzută de unii ca fiind mai puțin realistă, bazată pe faptul că sistemele biologice și sistemele fizice de interes nu au un ceas global observat.
Neuronii „se atrag sau se resping reciproc” în spațiul stărilor Ponderea legăturii dintre două unități are un impact puternic asupra valorilor neuronilor. Fie ponderea conexiunii între doi neuroni și . Dacă , regula de actualizare înseamnă că:
atunci când , contribuția lui în suma ponderată este pozitivă. Astfel, este tras de spre valoarea când , contribuția lui în suma ponderată este negativă. Din nou, este împins de către valoarea
Astfel, valorile neuronilor și vor converge dacă ponderea legăturii dintre ei este pozitivă. Similar, ei vor diverge dacă ponderea este negativă.
Proprietăți de convergență ale rețelelor Hopfield discrete și continue În lucrarea sa din 1990, Bruck a studiat rețelele Hopfield discrete și a demonstrat o teoremă de convergență generalizată care se bazează pe conexiunea dintre dinamica rețelei și tăieturile din graful asociat. Această generalizare a acoperit atât dinamica asincronă, cât și cea sincronă și a prezentat dovezi elementare bazate pe algoritmi greedy pentru tăietura maximă în grafuri. O lucrare ulterioară a cercetat mai departe comportamentul oricărui neuron atât în rețele Hopfield în timp discret, cât și în timp continuu, atunci când funcția energetică corespunzătoare este minimizată în timpul unui proces de optimizare. Bruck arată că neuronul își schimbă starea dacă și numai dacă scade și mai mult următoarea pseudo-tăietură polarizată. Rețeaua Hopfield discretă minimizează următoarea pseudo-tăietură polarizată pentru matricea de ponderi sinaptice ale rețelei Hopfield.
unde:
Rețeaua Hopfield în timp discret minimizează întotdeauna exact următoarea pseudo-tăietură:
Rețeaua Hopfield în timp continuu minimizează întotdeauna o limită superioară la următoarea tăietură ponderată:
unde este o funcție sigmoidă centrată în zero.
Rețeaua Hopfield complexă tinde, pe de altă parte, în general să minimizeze așa-numita tăietură-umbră a matricei complexe de ponderi a rețelei.
Energie dreapta|miniatura|500x500px| Peisajul energetic al unei rețele Hopfield, evidențiind starea actuală a rețelei (vârful dealului), o stare atractoare către care va converge în cele din urmă, un nivel minim de energie și un bazin de atracție colorat în verde. Se observă cum actualizarea rețelei Hopfield duce mereu spre energii mai joase. Rețelele Hopfield au o valoare scalară asociată cu fiecare stare a rețelei, denumită „energia”, E, a rețelei, unde:
Această cantitate se numește „energie” deoarece fie scade, fie rămâne aceeași la actualizarea unităților de rețea. Mai mult, în cazul actualizării repetate, rețeaua va converge în cele din urmă către o stare care este un minim local în funcția de energie (care este considerată a fi o funcție Leapunov). Astfel, dacă o stare este un minim local în funcția de energie, atunci este o stare stabilă a rețelei. Această funcție energetică aparține unei clase generale de modele din fizică care poartă denumirea de modele Ising; acestea, la rândul lor, sunt un caz special de rețele Markov, deoarece măsura de probabilitate asociată, măsura Gibbs, are proprietatea Markov.
Rețelele Hopfield în optimizare