Perpustakaan UIN Mahmud Yunus Batusangkar berdiri seiring dengan berdirinya Fakultas Tarbiyah UIN Mahmud Yunus Imam Bonjol Batusangkar pada tahun 1967. Pada waktu itu keadaan perpustakaan masih sangat sederhana, belum ada gedung khusus, yang ada hanya lemari dan rak-rak buku untuk menyimpan koleksi yang dibutuhkan dosen. Sedangkan kegiatan perpustakaan masih ditangani oleh pegawai administrasi dengan pola yang sangat sederhana.
Sejak pindahnya UIN Mahmud Yunus Imam Bonjol Batusangkar ke lokasi baru di Jl. Sudirman no 137 Kuburajo Lima Kaum Batusangkar, perpustakaan sudah menempati ruangan khusus. Sejak itu perpustakaan sudah dipimpin oleh seorang kepala perpustakaan sampai kemudian menjadi STAIN Batusangkar dan terpisah dari IAIN Induk di Padang sejak tahun 1997.
Sejak tahun 2000 perpustakaan UIN Mahmud Yunus Batusangkar sudah dikelola oleh tenaga Pustakawan, baik yang berlatar belakang S.1 dan D.3 Ilmu Perpustakaan dan tenaga S.1 Ilmu Komputer. Sejak tahun 2004 perpustakaan sudah menempati gedung perpustakaan berlantai tiga seluas 600 m2 dan pada tahun 2016 luas perpustakaan bertambah menjadi 1.926,08 m2. Sejak itu, perpustakaan UIN Mahmud Yunus Batusangkar telah menggunakan sistem otomasi berbasiskan komputer.
Adapun Kepala Perpustakaan yang telah memimpin perpustakaan tersebut adalah:
Drs. Abdul Halim Hanafi 1990-1991
Drs. Wem Alius (Alm) 1991-1998
Drs. H. Andi Muhammad Basri 1998-2001
Yuldelasharmi, S.Ag., SS., MA 2001-2012
Syafrinal S, S.Ag.SS., M.Kom 2012-2016
Armizawati, S.IP 2016-Sekarang