Abdur Rahim kemudian kuliah di University of California, Berkeley, di mana ia mempertahankan IPK 3,5. Di California, ia rata-rata mencetak 21,1 poin per game (ppg) dan 8,4 rebound per game (rpg) dalam 28 game.
Ia adalah mahasiswa baru pertama dalam sejarah Pac-10 yang memenangkan penghargaan Conference Player of the Year, dan dinobatkan sebagai Third Team All America oleh Associated Press.
Juga dinobatkan sebagai Pac-10 Freshman of the Year, Abdur-Rahim mencetak rekor mahasiswa baru satu musim untuk poin, rata-rata skor, gol lapangan, dan lemparan bebas. Namun, setelah satu tahun di California, ia memutuskan untuk meninggalkan kuliah untuk mengikuti draft NBA 1996.
Sebelum bergabung dengan NBA, Abdur Rahim adalah pencetak skor dan rebounder terbanyak AS di Turnamen Kualifikasi Kejuaraan Dunia Junior COPABA 1994 yang diadakan di Argentina. Dia rata-rata mencetak double-double dengan 16,8 poin dan 10,1 rebound
Saat mencoba untuk menjadi tim dengan tembakan yang diblok tertinggi dengan rata-rata 1,6 blok per pertandingan, dia membantu mendorong skuad Amerika ke rekor 8-0, medali emas, dan tempat kualifikasi di Kejuaraan Dunia Junior FIBA ​​1995.
