Namun Hajjaj murka dengan pendirian panglima tersebut. Dia menulis surat balasan berisi kecaman pedas dan menuduh Abdurrahman sebagai pengecut serta mengancam akan memecatnya.
Begitu surat dari gubernurnya datang. Abdurrahman bin Asy’ats segera mengumpulkan para komandan pasukan dan perwiranya. Beliau membaca surat tersebut untuk kemudian dimusyawarahkan bagaimana sikap yang harus mereka ambil.
Ternyata para komandan itu menyarankan untuk menentang perintah Hajjaj. Maka Abdurrahman berkata; “Apakah kalian bersedia berbaiat untuk berjihad kepadanya hingga Allah membersihkan bumi Irak dari kezalimannya?”. Akhirnya mereka melakukan baiat kepada panglimanya.
Tentara Abdurrahman bin Asy’ats bergerak menyerang pasukan Hajjaj dengan kebencian berkobar di dada. Terjadilah pertempuran dahsyat antara mereka dengan pasukan Ibnu Yusuf, dan pasukan Abdurrahman berhasil memenangkannya hingga mampu menguasai Sajistan serta sebagian besar wilayah Persia. Selanjutnya Abdurrahman berhasrat merebut Kufah dan Basrah dari kekuasaan Hajjaj bin Yusuf.
Perang masih berkecamuk antara dua kubu. Ibnu Asy’ats terus menguasai kota demi kota. Hal itu membuat kemarahan Hajjaj memuncak ke ubun-ubun.
