Ia sangat gemar berkutat dengan ilmu, walaupun untuk memenuhi rasa ingin tahunya itu dia harus menempuh berbagai kesulitan dan biaya yang mahal.
Dia menjalaninya dengan senang hati, seperti yang beliau katakan; “Seandainya ada orang yang pergi dari ujung Syam sampai ke ujung Yaman lalu dia menghafalkan satu kalimat saja yang bermanfaat bagi dirinya, maka sungguh perjalanannya tak sia-sia”.
Sehingga sampailah beliau pada tingkatan ilmu seperti yang ia katakan; “Yang paling sedikit dari yang aku pelajari adalah kata-kata syair. Namun seandainya aku mau membacakan syair-syair yang aku ketahui, tentu akan memakan waktu sebulan penuh tanpa mengulang-ulang yang sudah aku sebutkan”.
Telah disediakan kesempatan baginya untuk mengisi suatu halaqah ilmu di masjid jami Kufah, di mana para pengikutnya berkumpul dalam kelompok-kelompok. Padahal waktu itu masih banyak sahabat Rasulullah shallallahu alaihi wasallam yang hidup dan mondar-mandir di tengah-tengah umat Islam.
Bahkan suatu kali Abdullah bin Umar mendengarkan Asy Sya’bi bercerita dengan rinci tentang sejarah peperangan. Demikian mengagumkannya hingga Ibnu Umar berkata; “Aku hadir dan mendengarkannya dengan telingaku sendiri apa yang dikisahkan oleh Asy Sya’bi, sungguh dia lebih baik periwayatannnya dariku”.
