한국체육은 1936년 손기정 선수의 베를린올림픽대회 마라톤 우승으로 전 세계에 한민족의 우수성을 널리 알렸으며, 광복 후에는 정부수립에 앞서 1948년 생모리츠 동계올림픽대회와 런던올림픽대회에 참가하여 태극기와 KOREA를 사용함으로서 신생 독립국의 체육에 대한 열정을 전 세계에 과시하였다. 이후 올림픽대회와 아시아경기대회 등 각종 국제경기대회에서 세계와 경쟁하며 우수한 성적을 올려 세계 10위권의 스포츠강국으로 자리 잡으며, 우리 국민들에게 용기와 희망을 주어 국가발전에 매진할 수 있는 활력소를 불어넣었다. 그리고 1986년 서울아시아경기대회, 1988년 서울올림픽대회, 2002년 월드컵대회 등을 성공적으로 개최하여 전 세계인의 찬사를 받았으며, 세계무대에 한국을 알리는데 크게 공헌하였다. 100여 년간 이어온 한국스포츠의 귀중한 사료들이 그동안 개인들의 소장에 그쳐 일반에 공개되지 못하고 또한 전시공간의 부족으로 태릉선수촌, 올림픽회관에 보관되어 있던 것을 한국체육박물관이 건립되어 상설 전시하게 되었다.
체육사에 가치 있는 문화유산을 보존하며 이를 연구, 전시함으로서 문화 창달에 힘쓰기 위해서 설립되었다.
1985년 7월 13일 대한체육회 창립 65주년 기념행사에서 스포츠뿌리 찾기 운동을 전개, 동년 7월 27일 원로체육인 11명, 간사 3명으로 조직된 ‘스포츠뿌리 찾기 위원회’가 구성되었다. 이듬해 1986년 9월 25일부터 10월 9일까지 보름 동안 체육회관에서 한국스포츠사료전을 개최하였다. 그 후 1996년 3월부터 2000년 3월까지 태릉선수촌과 올림픽회관에 자료실을 설치하며 ‘한국체육박물관’ 개관을 추진한다고 발표하였다. 그리고 동년 2000년 4월 24일 전시장 시설공사, 보관자료 이전 등을 거쳐 한국체육박물관을 개관하였다. 2005년 7월 태릉국제스케이트장으로 이전하여 재차 설비공사를 한 후, 2005년 10월 13일 한국체육박물관을 재개관하여 현재에 이르고 있다.
한국체육박물관은 한국 체육사 관련 사료를 민족과 함께 성장한 영광과 감동을 재조명하는 역사관, 대한체육회와 함께한 올림픽역사를 살펴보는 올림픽관, 국내스포츠 축제인 전국체전의 역사를 살펴보는 전국체전관, 기타 국내외 대회에 관련된 스포츠역사가 숨쉬는 경기단체관으로 나누어져 전시, 운영되고 있다.