1973년국립중앙박물관의 조도조개무지 발굴조사 이후 수거ㆍ정리한 자료를 토대로 1985년 5월 해사대학 1층에 해사박물관 전시실을 마련하면서 출발하였다. 1992년에 종합대학교로 승격되면서 해사대학 5층에 전시실 및 자료실을 마련하여 대학의 역사 유물을 함께 수집, 전시하였다. 1996년 2월 27일 이 학교 50여년의 역사를 재조명하기 위해 한국해양대학교의 발전사 자료 145점을 모아 역사자료관을 개관하였고(50주년 기념관 3층), 같은 해 12월 조도 조개무지 발굴자료와 부산항 발전 관련 사진자료, 부산지역 고지도 및 해도를 전시한 제1전시실, 선박의 발전사 관련 자료를 전시한 제2전시실을 확장 개관하였다(해사대학 5층). 2003년 2월에 독립공간을 확보하여 해양박물관으로 확장 개관하였다. 이후 선박과 해운 분야의 유물들을 중심으로 자료들을 확충하여 해양 관련 전문 박물관으로 성격을 변모시켜 갔다. 소장품으로 토기 3,800점, 선박 312점, 서화 86점, 서지 227, 기념품 523점, 사진 4,815점, 모형 97점, 우표 2,284, 기증품 3,075, 기타 5,000점, 계 2만 219점이 있다.
현재는 ‘교사(校史) 자료실’ ‘한국해양사실’ ‘선박의 역사실’ ‘선박 장비실’ ‘아치섬[조도] 조개무지실’ ‘기증자료실’ ‘특별전시실’ 등 7개의 전시실을 갖추고 상설전시를 하고 있으며 ‘대한제국과 최초의 선장 신순성(愼順晟)’(2005), ‘우리들 기억 속의 영도다리 사진전’(2007) 등 특별전시회와 학술 심포지움을 지속적으로 개최하고 있다.