У телекомунікаціях та комп'ютерній інженерії затримка очікування в черзі — це час, протягом якого завдання очікує в черзі, доки воно не зможе бути виконане. Це ключова складова мережевої затримки. У мережі з комутацією затримка в черзі — це час між завершенням сигналізації ініціатором виклику та надходженням сигналу виклику до одержувача виклику. Затримка в черзі може бути спричинена затримками на комутаторі, що ініціює виклик, проміжних комутаторах або комутаторі, що обслуговує одержувача виклику. У мережі передавання даних затримка в черзі — це сума затримок між запитом на обслуговування та встановленням каналу до викликаного термінального обладнання даних (, DTE). У мережі з комутацією пакетів затримка в черзі — це сума затримок, яких зазнає пакет між моментом його введення в мережу та моментом доставки за адресою.
Обробка маршрутизатором
Цей термін найчастіше використовується стосовно маршрутизаторів. Коли пакети надходять до маршрутизатора, вони мають бути оброблені та передані. Маршрутизатор може обробляти лише один пакет за раз. Якщо пакети надходять швидше, ніж маршрутизатор може їх обробляти (наприклад, під час пакетної передачі), маршрутизатор поміщає їх у чергу (також звану буфером), доки не зможе перейти до їх передавання. Затримка також може відрізнятися від пакета до пакета, тому під час вимірювання та оцінювання затримки в черзі зазвичай обчислюють середні значення та статистичні показники.
Коли черга починає заповнюватися через надходження трафіку швидше, ніж він може бути оброблений, величина затримки, якої зазнає пакет під час проходження через чергу, збільшується. Швидкість, з якою може оброблятися вміст черги, є функцією швидкості передавання обладнання. Це приводить до класичної кривої затримки. Середня затримка, якої може зазнати будь-який заданий пакет, задається формулою 1/(μ-λ), де μ — кількість пакетів за секунду, яку може підтримувати обладнання, а λ — середня швидкість надходження пакетів для обслуговування. Цю формулу можна використовувати, коли з черги не вилучаються пакети.
Максимальна затримка в черзі пропорційна розміру буфера. Чим довша черга пакетів, що очікують передавання, тим довшим є середній час очікування. Черга маршрутизатора з пакетами, що очікують надсилання, також створює потенційну причину втрати пакетів. Оскільки маршрутизатор має скінченний обсяг буферної пам'яті для зберігання черги, маршрутизатор, який отримує пакети із занадто високою швидкістю, може зіткнутися з переповненням черги. У такому разі маршрутизатор не має іншого вибору, окрім як просто відкидати надлишкові пакети.
Коли протокол передавання використовує ознаку відкинутих пакетів, що свідчить про заповнення буферів, для регулювання швидкості передавання, як це робить TCP в Інтернеті, пропускна здатність досить рівномірно розподіляється майже на теоретичній максимальній швидкості, з мінімальними затримками через перевантаження мережі. За відсутності цього механізму зворотного зв'язку затримки стають непередбачуваними та різко зростають — цей симптом також спостерігається, коли автомагістралі наближаються до максимальної пропускної здатності; регульовані в'їзди на автомагістраль є там найефективнішим рішенням, так само як саморегулювання TCP є найефективнішим рішенням, коли трафік складається з пакетів, а не автомобілів. Цей результат важко математично моделювати й він є досить неінтуїтивним для людей, які не мають досвіду роботи з математикою або реальними мережами. Відмова від відкидання пакетів із вибором натомість зберігати дедалі більшу їх кількість призводить до явища розбухання буфера.
Позначення
У нотації Кендалла для аналізу затримки в черзі в конкретній системі може використовуватися модель черги M/M/1/K, де K — розмір буфера. Нотацію Кендалла слід використовувати для обчислення затримки в черзі, коли пакети відкидаються з черги. Модель черги M/M/1/K є найпростішою та найважливішою моделлю черги для аналізу мереж.
Див. також Затримка мережі Закон Літтла — формула теорії черг Втрата пакетів Затримка обробки Теорія черг Затримка передачі
Примітки