1945년 10월 민간 조직체인 북조선 체육동맹으로 창설되었으며, 1954년 6월 내각 직속의 조선체육지도위원회로 바뀌었다. 1969년 11월 내각에서 분리, 독립되었다. 1986년 11월 조선체육지도위원회를 제8기 내각 출범시 정식으로 내각 성원에 포함되었고, 1989년 6월 조선 국가 체육위원회로 개칭하였다.
당의 체육정책을 집행하는 것을 주된 임무로 하기 때문에 북한의 모든 체육경기와 행사, 국제경기, 주민체력검정 실시, 우수선수 양성, 각종 경기용 장비공급 등을 주관하고 있다. 조선국가체육위원회와 중국 국가체육총국 사이에 1998년도 <체육교류 의정서>가 베이징(北京)에서 조인되었으며, 이 의정서에는 중국 주재 북한대사 주창준(朱昌俊)과 중국 국가체육총국 부국장 쉬인성(徐寅生)이 각각 서명하였다.