Berdirinya Institut Agama Islam Negeri (IAIN) di Indonesia berlandaskan pada Peraturan Presiden Nomor 11 Tahun 1960 tanggal 9 Mei 1960 di Yogyakarta dengan nama Al-Jami’ah Al-Islamiyah Al-Hukumiyah. Perwujudan IAIN merupakan gabungan dari Perguruan Tinggi Agama Islam Negeri (PTAIN) Yogyakarta dan Akademi Dinas Ilmu Agama (ADIA) yang berkedudukan di Jakarta.

Kehadiran IAIN merupakan tuntutan kebutuhan dasar umat Islam dalam upaya mengembangkan syi’ar agama melalui wadah perguruan tinggi yang lebih profesional, yakni perguruan tinggi Islam negeri yang sekaligus diharapkan dapat membantu pemerintah dalam menyiapkan sumber daya insani dan ahli dalam Agama Islam.

Akan halnya pendirian IAIN Sumatera Utara pada tahun 1973 di Medan, dilatarbelakangi dan didukung oleh beberapa faktor pertimbangan objektif. Pertama, Perguruan Tinggi Islam yang berstatus Negeri pada saat itu belum ada di Provinsi Sumatera Utara, walaupun yang berstatus swasta memang sudah ada. Kedua, pertumbuhan pesantren, madrasah dan perguruan-perguruan agama yang sederajat dengan SLTA di daerah Sumatera Utara tumbuh dan berkembang dengan pesatnya, yang sudah tentu memerlukan adanya pendidikan lanjutan yang sesuai, yakni adanya Perguruan Tinggi Agama Islam yang berstatus Negeri.