1960년대초부터 개별 산악클럽들에 의하여 논의되어오던 단체조직의 필요성이 결실을 보아 1963년 5월 서울특별시교육위원회에 문화단체로서 등록하였으며, 1966년 12월 문교부로부터 사단법인 인가를 받았다.
그 뒤 1986년 대한체육회 가맹단체가 되었다. 한편, 1970년 6월 국제산악인 연합기구인 국제산악연맹(UIAA : 1932년 8월 프랑스 샤모니에서 결성)에 회원으로 가입하였다. 주요활동으로는 매년 대통령기쟁탈 전국등산대회와 전국암벽등반대회(1981년 시작)를 개최하고 있으며, 등산기술지도·조난방지지도·등산정보의 제공, 해외등반계획의 심의 및 대표파견 등의 업무를 관장하고 있다.
그리고 산악 및 등산에 관한 연구회나 지도회를 매년 개최하고 잇으며 등산시설의 설치·관리, 등산 용기구의 연구개발과 더불어 청소년선도, 자연보호 및 산악정화운동, 오지탐험 등의 사업도 추진하고 있다.
또한 전국의 유명한 산에 36개 산장을 건립하고 산악구조대를 편성하여 조난시 구조활동에 임하고 있으며, 산악인교육을 위한 ‘산간학교’를 매년 개설하고, 1978년부터 기관지 ≪산악인≫을 발행하고 있다.
이 밖에 주요업적으로는 1977년 5월 세계의 최고봉 에베레스트(8,848m)등정과 1986년 8월 K2봉(8,611m)의 등정에 성공하였으며, 1988년 에베레스트와 로체봉의 등정계획을 가지고 있다.