Kiedy po śmierci Proroka doszło do masowego odstępstwa (ridda) od islamu, Abu Bakr wysłał Chalida przeciwko buntownikom. Zgodnie z tradycją miał on wtedy popełnić dwa kolejne występki, po pierwsze w wyniku nieporozumienia zabijając muzułmanów, a po drugie następnie żeniąc się z wdową po jednej z ofiar. Abu Bakr jednak mu przebaczył i Chalid dowodził muzułmanami przeciwko Musajlimie w Jamamie. Bezpośrednio z Jamamy lub poprzez Medynę udał się do Iraku, by wesprzeć wodza plemienia Banu Szajban, Musannę, w walce przeciwko siłom Sasanidów. W Iraku Chalid zdobył Al-Hirę, starożytną stolicę Lachmidów, by następnie przekroczyć Pustynię Syryjską i wspomóc wojska arabskie operujące w Syrii. Przejście Chalida przez Pustynię Syryjską w późniejszej tradycji islamu stało się czynem wręcz legendarnym, „problem polega jednak na tym, że opisy tej wyprawy, choć tak żywe, są bardzo zawikłane. [...] niektóre źródła sugerują, iż obrał on długi południowy szlak przez Dumat al-Dżandal, a inne zapewniają, że szedł w kierunku północnym przez Palmirę. Na korzyść obydwu tych wersji przemawiają dobre argumenty i nie da się rozstrzygnąć, która z nich jest prawdziwa”. Patricia Crone neguje w ogóle fakt zainicjowania podboju Iraku przez Chalida, argumentując, iż zaprzeczają temu źródła niemuzułmańskie. Według Sebeosa (ok.