İstanbul Arkeoloji Müzeleri’nin içerisinde yer alan kütüphane, yaklaşık 500 metrekarelik bir alana hakimdir. Kütüphane binasının mimarı Aleixandre Vallaury’dir. Kitaplık olarak düzenlenen bu bina o dönemlerde İmparatorluk Kütüphanesi olarak adlandırılmaktaydı.
Kütüphanenin açılışından bu yana kitaplar gittikçe çoğalmış olup, kitapların çoğu yapılan bağışlarla bir araya gelmiştir. Özellikle Osman Hamdi Bey tarafından satın alınan ve bağışlanan kitapların sayısı oldukça fazladır. Mehmet Şakir Paşa, Ahmet Cevat Paşa, Recaizade Ekrem, Sultan V. Reşat koleksiyonları kütüphanede inceleyebileceğiniz bölümler arasındadır.
Fatih-Gülhane’de bulunan İstanbul Arkeoloji Müzeleri Kütüphanesi, Osman Hamdi Bey Yokuşu üzerinde yer alıyor.