Następnie dla pierwszej pary uczącej oblicza się:

(a) wyjście z neuronu (jest to pojedyncza wartość liczbowa):

gdzie – funkcja aktywacji w perceptronie Rosenblatta to funkcja skokowa Heaviside’a,

(b) błąd sieci, tj. różnicę między wynikiem sieci a oczekiwanym wynikiem :

(c) jeśli błąd jest niezerowy, to koryguje się bias i wagi według reguły uczenia Rosenblatta

gdzie: – numer iteracji (kroku uczenia) – współczynnik uczenia, np. 0.1, który określa wielkość korekty wag w każdej iteracji - wektor wag w kroku t+1 - wektor wartości k-tej danej Drugie z powyższych równań jest równoważne równaniom: ,

Proces ten powtarza się dla wszystkich przykładów uczących , przy czym w danej iteracji koryguje się wagi i bias uzyskane w poprzedniej iteracji; ten cykl uczenia stanowi tzw. pojedynczą epokę uczenia. Zazwyczaj powtarza się uczenie w kolejnych epokach, zaczynając ponownie od pierwszej pary uczącej oraz koryguje się wagi i bias uzyskane w ostatniej iteracji poprzedniej epoki.