우리 나라의 대표적인 산악단체로 산림청 산하 사단법인체이다. 회원수는 1997년 말 현재 3,500여 명에 이른다. 1931년을 전후하여 일본인들이 조선산악회를 조직하자 이에 자극을 받은 한국 산악인들은 1940년경 엄홍섭(嚴興燮)을 중심으로 백령회(白嶺會)라는 등산 동호회를 결성하여 산악운동을 전개하였다.
광복 후 1945년 9월 15일 백령회 회원인 김정태(金鼎泰)·김정호(金正浩)·방현(方炫)·이기만(李起晩)·주형렬(朱亨烈)·채숙(蔡淑)·이재수(李在睟)·박순만(朴順萬)·박상현(朴商顯)·양두철(梁斗喆)·김문배(金文培) 등이 주축이 되어 국내 학자들과 함께 조선산악회(1948년 정부수립과 동시에 한국산악회로 개칭)를 발족시켰다.
창립위원으로는 백령회 회원 11명 외에 송석하(宋錫夏)·현동완(玄東完)·김상용(金尙鎔)·최승만(崔承萬)·유재선(柳在善)·현기창(玄基彰)·방봉덕(方鳳德)·박래현(朴來賢) 등이 참여하였으며, 진단학회 회장이던 송석하가 초대 회장으로 선출되었다. 초창기의 산악활동은 국토를 구명(究明)하려는 국토구명등산과 학술조사를 병행시킨 형태로 나타났다.
1946년부터 1954년까지 한라산(1946), 차령산맥학술등반(1946)·울릉도·독도(1947) 등 모두 11회에 걸쳐 전국에 학술조사단을 파견하여 명승지 조사와 산맥답사 등의 자료를 정부에 제공하기도 하였다. 그 중에 특히 1947년과 1952∼1953년에는 울릉도·독도의 학술등반을 통하여 최초로 독도를 측량하였고, 1955년 여름에는 최초로 설악산종합학술등반을 시행하였다.
1960년대 후반부터 많은 해외원정대를 파견하면서 국제교류의 필요성을 느껴 1969년에 국제산악연맹에 가입하였으며, 1973년에는 국제산악연맹의 산악보호위원국에 선출되기도 하였다. 1969년 2월 해외원정 훈련대원 10명이 설악산에서 조난사하는 큰 비극을 겪기도 하였으나, 1975년 안나푸르나(Annapurna) 정찰에 이어 정식허가를 얻고, 1978년에는 안나푸르나 4봉(7,252m, 등정자 劉東玉), 1982년에는 마칼루봉(Makalu, 8,481m, 등정자 許永浩) 등정에 성공하였다.
1987년 12원에는 허영호가 지구의 최고봉인 에베레스트(Everest, 8,848m)봉 등정에 성공하였다. 1947년에는 학생산악연맹, 1978년에는 전국고교산악연맹이 결성되어 학생산악활동을 지도하고 가맹단체를 육성하고 있으며, 1969년에 개설된 등산아카데미와 1971년부터 시작된 산악오리엔티어링대회는 정례화되고 있다.
한국산악회 조직(1995년 기준)은 명예회장과 회장, 부회장, 상임이사회가 있고 이사회 산하에 사무국, 산악연수원, 산악문화연구소, 산악도서관, 시·도 및 해외지부가 있다.
그리고 사무국 아래에는 회원관리, 산악기술, 일반등산, 자연보호, 편집출판, 해외산악, 안전대책, 등산과학, 대학생산악, 청소년산악, 등산장비, 산악독도, 여성산악 등을 담당하는 13개 분야의 상설위원회가 중심이 되어 생활수준의 향상과 늘어난 국민들의 여가시간을 등산활동에 활용하도록 인도하는 한편, 알피니즘(alpanism)의 진작과 아울러 국토애를 실천하고 산악문화 육성에 힘쓰고 있다.
1962년에 발족한 대한산악연맹과 더불어 한국의 산악활동을 이끌어 나가고 있다. 그 동안 『한국산악문고』를 출판한 바 있으며, 회보로는 『산』과 『한국산악』을 발간하고 있다.