W roku 1812 został wcielony do armii carskiej, skąd zdezerterował po roku i wraz z innymi uciekinierami zorganizował watahę działającą na wzór hajdamacki. W 1814 r. został schwytany, skazany na 500 rózeg (wyrok wykonano w Kamieńcu Podolskim) i wcielony do oddziałów na Krymie. Uciekł ponownie w drodze z zesłania i przez kilkanaście lat przewodził różnym grupom działającym w powiatach: latyczowskim, lityńskim i proskurowskim w guberni podolskiej. Szacuje się, że przez jego oddziały przeszło ok. 20 000 chłopów i dezerterów z wojska.
Działania grup Karmeluka były skierowane głównie przeciwko bogatej szlachcie oraz ścigającemu go wojsku. Według źródeł Karmeluk dokonał blisko tysiąca napadów na majątki szlacheckie, które grabił i podpalał, a mieszkańców niektórych dworów zabijał. Zdobyte w ten sposób bogactwa przekazywał biednym chłopom, co zostało potwierdzone przez mieszkańców niższych warstw społecznych, w trakcie procesu w sądzie lityńskim. Stąd Karmeliuka niejednokrotnie nazywa się „ukraińskim Robin Hoodem”http://irbis-nbuv.gov.ua/cgi-bin/ua/elib.exe?Z21ID=&I21DBN=UKRLIB&P21DBN=UKRLIB&S21STN=1&S21REF=10&S21FMT=online_book&C21COM=S&S21CNR=20&S21P01=0&S21P02=0&S21P03=FF=&S21STR=ukr0002068„Устим Кармалюк: зібрані документи” / Центр. держ. іст. архів УРСР, Ін-т історії України АН УРСР; упоряд. Є. Черкаська та І. Єрофєєв ;