Ten wynik wynika z faktu, że w równowadze termicznej prawdopodobieństwo dowolnego stanu globalnego podczas swobodnego działania sieci jest dane przez rozkład Boltzmanna.

Powyższa reguła uczenia się sieci ma odpowiednik w biologicznej sieci neuronowej: jedyna informacja potrzebna do zmiany wag pochodzi z „lokalnej” informacji, tzn. że połączenie ("synapsa") nie potrzebuje informacji o niczym innym poza dwoma neuronami, które łączy. Odpowiednika takiego nie mają inne metody trenowania sieci neuronowych, jak np. backpropagation.

Uczenie maszyny Boltzmanna polega na minimalizowaniu dywergencji Kullbacka-Leiblera.

Uczenie biasów przebiega podobnie, ale używa tylko aktywności pojedynczego neuronu:

Zobacz też

model Isinga

sieć Hopfielda

Bibliografia

Ryszard Tadeusiewicz, Sieci Neuronowe, Akademicka Oficyna Wydawnicza Warszawa 1991, dostępny online - plik pdf Ryszard Tadeusiewicz, Maciej Szaleniec, Leksykon sieci neuronowych, Wydanie I Wrocław 2015, hasło: Probabilistyczna sieć neuronowa, str. 74 oraz hasła z tym hasłem powiązane linkami, dostęp online: file:///C:/Users/J/Downloads/Leksykon_sieci_neuronowych.pdf

Dalsza literatura

Kothari P. (2020), Koronawirus: Czy sztuczna inteligencja może coś zmienić?

Linki zewnętrzne

Artykuł w Scholarpedia autorstwa Hinton o maszynach Boltzmanna Wykład w Google przez Geoffrey’a Hinton - dostępny na YouTube

Machine