Pada tahun 1997 Madani diangkat menjadi anggota dewan shoura. Ia bertugas di sana hingga Juni 1999 ketika ia diangkat menjadi menteri haji. Ia menjabat jabatan tersebut dari tahun 1999 hingga Februari 2005.
Selanjutnya, ia diangkat menjadi menteri kebudayaan dan informasi pada bulan Februari 2005, menggantikan Fouad bin Abdulsalam Al Farsi, yang kemudian menjadi menteri haji.
Pada tanggal 1 Agustus 2005, Madani sebagai menteri informasi mengumumkan kematian Raja Fahd di televisi pemerintah. Madani terpilih sebagai ketua Kantor Berita Internasional Islam (IINA) dan Organisasi Penyiaran Islam pada tahun 2007.
Madani menjabat sebagai menteri informasi hingga tahun 2009 ketika ia digantikan oleh Abdulaziz Al Khoja di pos tersebut. Selama masa jabatannya, Madani menuai kritik dari para ulama Saudi karena toleransinya terhadap publikasi yang mempertanyakan dampak kuat pendirian agama di Arab Saudi.
Kemudian Madani diangkat menjadi ketua dewan direksi Knowledge Economic City di Madinah pada 10 Maret 2012, menggantikan Sami Mohsen Baroum pada jabatan tersebut. Ia juga menjabat sebagai wakil presiden Yayasan Raja Abdullah bin Abdulaziz untuk pembangunan perumahan.
