20여 년간 고서수집에 몰두해온 관장 조병순(趙炳舜)이 고서 및 인쇄 자료를 수집, 학계에 연구자료로 제공하고 전통문화를 계승, 발전시켜야 할 필요성을 절감하여 1974년 11월 17일 설립하였다.
1986년 현재 소장하고 있는 자료는 고서적 3만여 권, 고문서 · 간찰(簡札) · 고지류(古紙類) 3만여 점, 활자 · 목판 등의 유물 2만여 점, 그리고 인장류(印章類)와 금석문(金石文) 등이다.
이 가운데에는 국보 3점과 보물 17점이 포함되어 있고, 그 밖에 서지학(書誌學) · 국문학 · 국사학연구에 중요한 자료가 많다.
특히 1981년 보물로 지정된 『 삼국사기』 권44∼50 7권 1책은 고려 말의 복각본으로 추정되는 현존 최고본(最古本)이며, 조선시대 최초의 동활자인 계미자(癸未字)로 찍은 1973년 국보로 지정된 『북사상절』 또한 중요한 문화유산이다.
그리고 초조대장경(初雕大藏經) 『어제비장전(御製秘藏詮)』은 이미 학계의 큰 주목을 받은 바 있다. 그 밖에도 국보로 지정된 『 대방광불화엄경』 주본(周本) 권6(국보, 1981년 지정)과 권36(국보, 1981년 지정), 조선 초기의 금속활자본인 『도은선생시집(陶隱先生詩集)』 · 『신간유편역거삼장문선(新刊類編歷擧三場文選)』 등은 인쇄사연구에 참고자료가 된다.
이와 같은 중요한 문헌들이 포함되어 있는 장서 이용의 편의를 제공하기 위하여 1975년 『성암문고전적목록』을 발간하였다. 1984년에는 『증수보주삼국사기』를 간행하였는데, 이 책은 고려본 『삼국사기』를 대본으로 수년간 연구한 결과로서 한국출판문화상을 수상한 바 있다.
또한 귀중한 고문헌을 상설 전시함으로써 국학(國學) 각 분야의 연구자들에게 도움을 주고 있으며, 1977년에는 세계박물관협회에 가입하고 1983∼1984년에 걸쳐서 독일 · 프랑스 · 영국 · 일본 등지에서 개최된 고인쇄문화전에 활자본을 중심으로 20여 점을 전시하여 민족문화의 국외 홍보에도 크게 기여하였다.풍부하고 방대한 자료를 소장하고 있는 국내 유일의 고서박물관으로서 그 가치가 높이 평가되고 있다.
관장 조병순은 귀중한 문화유산을 수집, 보전해온 공로로 1981년 국민훈장 목련장(木蓮章)을 받았다. 2013년 9월 조병순 관장의 별세 이후, 박물관이 있던 태성빌딩이 매물로 나오면서 자연스럽게 박물관도 사라졌다.