Nie zrealizowano także wersji szybkiego bombowca z 1969 Tu-128B, zabierającego 1500 kg bomb w komorze bombowej, z prędkością ponaddźwiękową 1770 km/h, lub dalsze 3000 kg bomb pod skrzydłami, w którym wariancie prędkość spadała do 1210 km/h.
Służba thumb|Tu-128 w muzeum lotnictwa w Monino Pierwsze Tu-128 weszły na wyposażenie 518. pułku myśliwskiego w bazie Tałagi nad Morzem Białym w październiku 1966. Do 1970 wyposażono w nie łącznie 7 trzyeskadrowych pułków, po 9-12 samolotów w eskadrze, pomimo początkowych planów utworzenia 25 pułków. Ich wycofywanie rozpoczęto pod koniec lat 70., a do końca lat 80. zastąpiono je w jednostkach bojowych samolotami MiG-31. Na początku lat 90. samoloty ostatecznie wycofano i złomowano.
Dzięki dobrej aerodynamice, samolot miał dobre charakterystyki lotne, zwłaszcza w locie naddźwiękowym (prędkość naddźwiękową osiągał na wysokości 10–11 km bez dopalania), lecz jednocześnie był dość trudny w pilotażu, zwłaszcza przy starcie i lądowaniu i wymagał doświadczonych pilotów. Z uwagi na wielkość, jego pilotaż był nietypowy dla samolotu myśliwskiego (nawet zamiast drążka sterowego miał on wolant), co stwarzało problemy przy przeszkalaniu pilotów, zwłaszcza z poddźwiękowych lekkich samolotów MiG-17. Prostsze było przeszkalanie z Su-9. Do czasu wprowadzenia Tu-128UT, szkolenie prowadzono m.in.