Brahimi lahir pada tahun 1934 di El Azizia dekat Tablat, Aljazair, sekitar 60 km selatan Aljir. Ia menempuh pendidikan di Aljazair dan di Perancis di mana ia belajar hukum dan ilmu politik.
Ia bergabung dengan kampanye kemerdekaan pada tahun 1956. Berbasis di Jakarta selama lima tahun, ia adalah perwakilan Front Pembebasan Nasional (Aljazair) di Asia Tenggara, berkeliling wilayah untuk mencari dukungan diplomatik.
Brahimi adalah perwakilan khusus PBB untuk Afghanistan dan Irak. Sebelum diangkat pada tahun 2001 oleh Sekretaris Jenderal, Kofi Annan, ia pernah bertugas di PBB sebagai perwakilan khusus di Haiti di mana ia nyaris lolos dari upaya pembunuhan.
Brahimi memfasilitasi Komandan Pasukan PBB Amerika yang pertama sejak keterlibatan mereka dalam Perang Korea. Sebelum bergabung dengan PBB, Brahimi, yang mewakili Front Pembebasan Nasional di Tunis selama gerakan kemerdekaan Aljazair pada tahun 1956-1961, adalah pejabat Liga Arab (1984-1991) dan Menteri Luar Negeri Aljazair dari tahun 1991 hingga 1993.
Saat berkunjung ke Bagdad pada bulan April 2004 untuk membantu menentukan bagaimana dan kapan pemilu Irak dapat diselenggarakan, ia mengatakan bahwa kekerasan yang terjadi baru-baru ini mengancam akan menunda pemilu majelis nasional Irak, majelis nasional akan memilih presiden dan menyusun konstitusi.
