Setelah baiat aqobah ke-2, Rasulullah shallallahu alaihi wasallam hijrah dari Mekah menuju Madinah. Saat itu, Madinah masih bernama Yatsrib.
Di kota baru ini, orang Yahudi menjadi kekuatan dominan. Aus dan Khazraj sadar betul dominasi Yahudi ini. Terutama dalam permasalahan keagamaan dan perekonomian.
Inilah kondisi Madinah yang akan dihadapi oleh Rasulullah shallallahu alaihi wasallam sebagai penghuni dan penguasa baru Madinah. Karena itu, Nabi merasa perlu membuat perjanjian dengan orang-orang Yahudi ini.
Perjanjian itu menjelaskan tentang hak-hak dan kewajiban-kewajiban mereka sebagai sesama penghuni Kota Madinah.
Selain umat Islam, tinggal komunitas lainnya di Madinah. Mereka adalah orang-orang Yahudi. Rasulullah mengikat perjanjian dengan mereka karena tahu karakter mereka yang suka berkhianat.
