Управляемые рекуррентные блоки (, GRU) — механизм вентилей для рекуррентных нейронных сетей, представленный в 2014 году. Было установлено, что его эффективность при решении задач моделирования музыкальных и речевых сигналов сопоставима с использованием долгой краткосрочной памяти (LSTM). По сравнению с LSTM у данного механизма меньше параметров, т.к. отсутствует выходной вентиль.
Архитектура обозначает произведение Адамара. .
Переменные : входной вектор : выходной вектор : вектор вентиля обновления : вектор вентиля сброса , и : матрицы параметров и вектор
Функции активации : на основе сигмоиды. : на основе гиперболического тангенса.
См. также Долгая краткосрочная память
Примечания
Категория:Нейронные сети