LSTM wprowadza specjalną komórkę pamięci oraz bramki sterujące przepływem informacji. Dzięki temu sieć może przechowywać pewne informacje przez długi czas, usuwać informacje niepotrzebne i decydować, które części stanu pamięci ujawnić w stanie ukrytym. Nazwa long short-term memory oznacza, że architektura miała zapewnić mechanizm pamięci krótkotrwałej zdolnej do działania na długich przedziałach czasowych.
Budowa komórki LSTM Typowa komórka LSTM ma dwa główne stany: stan komórki , pełniący rolę pamięci; stan ukryty , będący wyjściem komórki w danym kroku czasowym.
Przepływem informacji sterują bramki: bramka wejściowa – decyduje, jaka część nowej informacji zostanie zapisana w pamięci; bramka zapominania – decyduje, jaka część poprzedniego stanu komórki zostanie zachowana; bramka wyjściowa – decyduje, jaka część pamięci zostanie ujawniona jako stan ukryty.
Bramki są zwykle realizowane jako warstwy z funkcją sigmoidalną, której wartości należą do przedziału od 0 do 1.