В теорії чисел функція Мертенса визначається:
де μ(k) - функція Мебіуса.
Для довільного натурального числа k виконується , тому . Значення функції Мертенса для перших натуральних чисел дорівнюють: 1, 0, -1, -1, -2, -1, -2, -2, -2, -1, -2, -2, -3, -2, -1, -1, -2, -2, ... Загалом функція Мертенса зростає у додатному і від'ємному напрямках здійснюючи хаотичні коливання і набуваючи значення нуль для чисел: 2, 39, 40, 58, 65, 93, 101, 145, 149, 150, 159, 160, 163, 164, 166, 214, 231, 232, 235, 236, 238, 254, ... .
Дане визначення можна поширити на довільні дійсні числа:
Функція названа на честь німецького математика Франца Мертенса, що припустив виконання нерівності:
З істинності гіпотези Мертенса випливала б гіпотеза Рімана. Дане припущення було спростоване в 1985 Андрієм Одлижко та Германом те Ріілем; контрприклад в наш час невідомий, проте відомо існування його в межах 1014 — 3,21×1064.
Гіпотеза Рімана еквівалентна дещо слабшому твердженню про поведінку функції Мертенса: M(n) = O(n1/2 + ε).
Для функції Мертенса виконується формула:
де C — замкнута крива, що оточує всі корені ζ(s) — дзета-функції Рімана.
Навпаки виконується рівність
що є справедливою для .
Посилання A. M. Odlyzko and Herman te Riele, "Disproof of the Mertens Conjecture", Journal für die reine und angewandte Mathematik 357, (1985) pp. 138–160.
Pintz, J. "An Effective Disproof of the Mertens Conjecture." Astérique 147-148, 325-333 i 346, 1987. (fr)