Keberadaan perpustakaan dimulai bersamaan dengan didirikannya Perguruan Tinggi Pendidikan Guru Kristen Indonesia (PTPGKI) pada tanggal 30 November 1956. Ketika itu PTPGKI menempati beberapa ruang di kompleks perkantoran Gereja Kristen Jawa Tengah (GKJT) yang berlokasi di Jalan Dr. Sumardi 5 Salatiga.
Perpustakaan pindah ke lokasi kampus Universitas Kristen Satya Wacana mulai tahun 1967 dan menempati Gedung Dr. Hayes Student Centre (sekarang Gedung Fakultas Seni Pertunjukan, di depan Gedung F).
Mulai tahun 1970, Perpustakaan menempati gedung perpustakaan berlantai dua dengan nama Perpustakaan Pusat.
Pada tahun 1992 Gedung Perpustakaan Pusat direnovasi dan diberi nama Gedung Notohamidjojo.
Mulai bulan Desember 1993, Perpustakaan menempati sebagian Lantai 1, Lantai 2, 3 dan sebagian Lantai 4 dari Gedung Notohamidjojo.
Gedung ini dilengkapi dengan sebuah lambang berupa kaca patri menggambarkan 4 figur wanita terkenal dalam cerita pewayangan, yaitu:
Sejak tahun 1995 Perpustakaan menggunakan nama "Perpustakaan Universitas - UKSW" untuk menunjukkan bahwa pelayanan perpustakaan dikelola secara tersentral.
Sempat beberapa tahun mengelola Pelayanan Cabang Pascasarjana dan Penelitian, dan Pelayanan Cabang Biblioterapi; namun dengan berkembangnya dan bertambahnya program studi maka Pelayanan Cabang Biblioterapi dilebur menjadi Laboratorium Konseling - Fakultas Psikologi. Sedangkan Pelayanan Cabang Pascasarjana dan Penelitian beralih fungsi sebagai Ruang Baca Pascasarjana dan dilayani di Gedung G 103 sejak Agustus 2007 sampai September 2012.
Pada tahun 2018 (bertepatan dengan Dies Natalis perpustakaan di tanggal 23 November), Perpustakaan melakukan rebranding dengan nama "Perpustakaan O. Notohamidjojo", atau disingkat menjadi PON. Ditetapkan pula tagline "Inspiring Destination", dengan harapan pemustaka dapat menjadikan perpustakaan sebagai tujuan yang dapat menginspirasi dalam berbagai hal.
Saat ini perpustakaan menempati Lantai 1 sampai dengan 5, dengan fasilitas dan layanan-layanan dan yang terus dikembangkan guna memenuhi kebutuhan pemustaka.