Dowodzone przez niego jednostki wielokrotnie dopuszczały się grabieży, gwałtów i rabunków. W lipcu-sierpniu 1919 r. jego 58 dywizji strzeleckiej, sformowanej w lipcu 1919 r. z resztek Krymskiej Armii Czerwonej, powierzono obronę Mikołajowa przed ofensywą Sił Zbrojnych Południa Rosji. Faktycznie jednak Dybienko i jego żołnierze zajmowali się głównie rabunkiem. Ostatecznie miejscowi bolszewicy aresztowali Dybienkę, a jego siły rozpierzchły się – czerwonoarmiści zbiegli do Odessy lub dołączyli do sił Machny. 21 lipca 1919 r. Dybienkę na stanowisku dowódcy zastąpił Iwan Fiedko. Fatalna postawa Dybienki i jego dywizji była jednym z powodów, dla których dowództwo 12 Armii z Ioną Jakirem na czele zdecydowało o rezygnacji z obrony Odessy i o wycofaniu się na północ.
W 1921 był jednym z dowódców pacyfikacji zbuntowanego Kronsztadu. Po stłumieniu buntu marynarzy został mianowany nowym komendantem Kronsztadu. Rok później został ponownie przyjęty do partii.