Powstanie Po wybuchu powstania powrócił na Litwę. Na początku marca przyłączył się pod Czajniszkami do oddziału Bronisława Żarskiego, w którym objął dowództwo. Na kontrolowanym przez siebie obszarze likwidował władze carskie i rozdawał chłopom uprawnianą przez nich ziemię. Kołyszko prowadził swój 400-osobowy pułk w walkach z oddziałami armii rosyjskiego pod Wysokim Dworem w dniach 29–30 marca, następnie 1 kwietnia walczył pod Leńczami (wraz z oddziałem Tomasza Kuszłejki), 11 kwietnia pod Misiunami.
Następnie połączył się z Zygmuntem Sierakowskim i z jego rozkazu stanął na czele 1. i 2. baterii piechoty, które nazwał pułkiem dubiskim. Wraz z Sierakowskim wziął udział w wyprawie kurlandzkiej, która zakończył się tragiczną bitwą pod Birżami. 7 maja Kołyszko jako pierwszy do wyznaczonego miejsca w Medejkach. Gdzie został zaatakowany przez wojska rosyjskie i zdołał je odeprzeć. Kołyszko nalegał na kontynuację natarcia, Sierakowski jednak wolał poczekać na żołnierzy księdza Antoniego Mackiewicza. Następnego dnia bitwa rozgorzała na nowo. Kołyszko i adiutant Sierakowskiego Jarosław Kossakowski mieli zabrać rannego Sierakowskiego i wywieźć go z kraju, ale zostali schwytani 10 maja 1863 przez rosyjskich żołnierzy. Podczas przesłuchania Kołyszko obwiniał Sierakowskiego za klęskę powstania i podkreślał, że wszystko robił dla ojczyzny.