전국광산노동조합연맹의 기원은 1949년 8개 지부, 조합원 13,900명으로 조직된 전국광산노동조합이다. 1953년 노동조합법 제정에 따라 전국광산노동조합연맹으로 명칭을 변경하였으며, 31개 지부, 조합원 2만 명으로 재편되었다. 1954년에는 노동법 규정상 전국광산노동조합연맹의 단체교섭이 어려워져서 대한석탄공사노조연합회, 대한중석노조연합회가 결성하였다. 같은 해 12월에 대한석탄공사노조연합회가 47개 광업소, 조합원 약 7,000명이 파업을 하자, 정부는 각 광업소에 군대를 배치하여 감시하였다. 정부의 군대 주둔 조치는 1958년 8월 8일까지 지속되었다. 1950년대 대한노총의 어용화에 맞서 광산연맹은 김말룡, 정대천, 이상진 등과 함께 전국노동조합총협의회를 결성하였다.
1961년 5월 군사정권에 의해 강제 해산 된 후 8월 산업별 조직 원칙에 입각하여 전국광산노동조합을 재조직하고 산하에 지부를 설치하였으며, 24개 지부, 2개 연합회가 결성되어 14,540명의 조합원이 조직되었다. 이 당시의 지부는 단체교섭권과 쟁의권을 행사하였기 때문에 전국광산노동조합은 산업별 단일조직과 연맹체 방식을 절충한 형태였다. 1960, 70년대에 광산노조는 보수통제법 철폐 투쟁, 김정원위원장의 민주노동당 창당 추진, 생활급 확보투쟁, 덕대제 폐지 요구 등의 활동을 전개했다.
1980년 신군부의 산업별 노조에서 기업별 노조로의 전환에 따른 지역 지부 해산과 노동계 인사에 대한 정화조치로 조직이 크게 약화되었다. 또한 사북사태 발생으로 광산 노동자의 노동조건이 사회 문제화되었다. 1980년대에 광산노조는 진폐 환자 특별보호법 입법 활동, 1987년 노동자 대투쟁 등의 활동을 전개하였다. 1988년부터 광산노조연맹이 중심이 되어 전 탄광노조가 공동임금교섭을 실시하고 있다. 1996년에 일반 광업에 외국인 노동자 연수 계획 철회투쟁을 하였고, 1997년 석탄산업 장기지원 대정부 촉구 결의대회를 실시하였다. 1999년 9월 조합원과 가족 등 1만여명이 9일 동안 전개한 무연탄화력발전소 매각반대 및 석탄산업 말살정책 분쇄 대정부투쟁을 하였다.
2002년에는 석광산업주식회사를 설립하였고, 2011년 7월 31일 현재 탄광실직노동자와 가족 등 186명에게 일자리를 제공하고 있으며, 회사의 정관으로 발생된 이익금은 주주 배당을 하지 않고 복지사업에 사용하도록 정하고 있다. 2006년에는 비영리 공익법인인 탄광복지재단을 설립 진폐 등 재해자를 비롯한 전현직 영세탄광근로자와 지역주민 등을 돕는 복지사업을 전개하고 있다.
2011년 현재 주요 사업은 정부의 석탄산업 합리화 및 수급조절정책에 대응하는 것이며, 광산노동자의 이해가 직접 관련된 『광산보안법』, 진폐의 예방과 진폐 노동자 보호 등에 관한 법률 개정 청원과 정책 활동을 전개하고 있다.
조직은 1981년 95개 조합 32개 지부의 5만 3,259명의 조합원으로 전국에서 일곱번째의 조직 규모였지만 1989년부터 시행된 석탄합리화 및 수급조절 정책의 영향으로 2011년 5월 31일 현재 7개 조합, 5개 지부의 조합원 5,153명이 있다. 또한 광산노동조합연맹의 기구는 대의원대회·중앙위원회·중앙집행위원회·광종분과위원회·사무국 등이 있다. 현재 한국노총에 소속되어 있다.