1934년 고려대학교의 전신인 보성전문학교 도서관 내의 참고품부(參考品部)로 출발하였다. 박물관 건립에 뜻을 가지고 있던 보성전문학교 교장 김성수(金性洙)는 자신이 소장하고 있던 민속품을 출연하고 일본 동양문고(東洋文庫) 사서 출신의 손진태(孫晉泰)를 도서관 사서로 임명해 참고품의 수집과 정리를 맡겼다. 설립 이후 보성전문학교 창립 30주년 기념사업을 계기로 각처에서 유물 기증이 잇따랐고 안함평(安咸平) 여사가 출연한 거액의 희사금을 토대로 다수의 유물을 수집할 수 있었다.
1962년 연면적 851평 규모의 3층 건물을 준공해 처음으로 독립된 박물관 시설을 갖추었고 1973년에는 대학박물관 최초로 한국현대미술실을 개설하였다. 2005년에는 현재의 위치인 백주년기념관으로 박물관을 옮겨와 3,000평 규모의 전시 및 수장공간을 운영하고 있다. 전시실은 백년사전시실, 역사민속전시실, 고미술전시실, 현대미술전시실, 기증자기념전시실 등 총 5개로 구성되어 있으며 약 500여 점의 유물을 상설 전시하고 있다.
소장품 규모는 개관 초기인 1942년 무렵 이미 3,000여 점에 달했다. 6·25 전쟁으로 상당수의 유물이 소실되었으나 지속적인 발굴과 유물수집을 통해 현재는 고고, 역사, 민속, 서화, 도자, 현대미술에 걸쳐 총 10만 2500여 점의 유물을 소장하고 있다. 대표적인 유물로는 현행 1만원권 지폐도안으로 사용되고 있는 현존 유일의 조선시대 천문시계인 혼천시계(渾天時計)와 현존 최고(最古)의 청화백자인 흥녕부대부인묘지(興寧府大夫人墓誌) 등을 들 수 있다. 국보와 보물을 각기 3점씩 소장하고 있으며 국가지정기록물 제1호(유진오제헌헌법 초고)와 제2호(안재홍 미군정 자료) 역시 본 박물관에 소장되어 있다.
설립 이래 1959년웅천패총(熊川貝塚) 발굴을 시작으로 총 34회의 발굴조사를 실시하였고 대학박물관 최초의 해외전시로 평가되고 있는 1996년 미국 6개 대학 순회전시 ‘조선시대 선비의 묵향(墨香): The Fragrance of Ink’를 포함해 총 60여 회의 국내외 전시를 기획하였다. 2000년부터는 사회교육 프로그램을 신설해 일반인과 대학생을 대상으로 하는 문화강좌와 초등학생들을 위한 어린이 교육을 진행하고 있다.