Działacze komitetu szybko zdobyli popularność wśród Ormian, występując na wiecach niepodległościowych w miastach Armeńskiej SRR i w innych skupiskach Ormian w ZSRR. Zjednoczenie wszystkich ziem ormiańskich w niepodległym państwie było jedynym głoszonym przez nich hasłem – świadomie zrezygnowali np. z krytyki gospodarki radzieckiej czy panującej w kraju korupcji, by skupiać całą uwagę wyłącznie na kwestii zjednoczenia.
Dążąc do usunięcia z terytorium Armenii mniejszości azerskiej, od początku istnienia organizacji wszczynali antyazerskie zamieszki w miastach ormiańskich, doprowadzając do masowych ucieczek Azerów z Armenii i Górskiego Karabachu. Od 1988 Komitet posiadał na terenie Górskiego Karabachu własne oddziały paramilitarne, określane jako "oddziały samoobrony", które dokonywały napaści na Azerów. W mniejszości w organizacji pozostawali umiarkowani działacze, którzy dopuszczali możliwość dialogu z politykami azerskimi i dalszego współistnienia obu społeczności.
Po masakrze w Sumgaicie Komitet "Karabach" przesłał list do I sekretarza KPZR Michaiła Gorbaczowa, domagając się wykrycia i ukarania sprawców pogromu.