남북조절위원회는 「7·4남북공동성명」의 합의사항들을 추진하고 남북관계를 개선, 발전시키며 통일문제를 해결할 목적으로 설립된 남북한 당국 간의 정치적 협의기구이다. 자주적 평화통일 실현, 남북 간의 정치적 교류, 경제·문화·사회교류 및 협력, 긴장완화·군사적 충돌방지 및 군사적 대치상태 해소, 대외활동에서의 공동보조 및 민족적 긍지 선양 등 5개 항을 협의·결정·실행하기 위해 설립되었다. 1972년 10월부터 6개월 동안 공동위원장 회의 3회, 본회의 3회가 개최되었으나 양측의 입장 대립으로 성과 없이 끝났고 북한측의 일방적 회의 중단선언으로 활동이 종료되었다.
1972년 7월 4일에 발표된 남북공동성명 제6항과 1972년 11월 4일 합의 서명된 「남북조절위원회구성 및 운영에 관한 합의서」에 의해 설치되었다. 합의서는 자주적 평화통일 실현, 남북 간의 정치적 교류, 경제 · 문화 · 사회교류 및 협력, 긴장완화 · 군사적 충돌방지 및 군사적 대치상태 해소, 대외활동에서의 공동보조 및 민족적 긍지 선양 등 5개 항을 협의, 결정, 실행하는 것을 남북조절위원회의 주요 기능으로 규정했다.
그리고 쌍방 각 5인의 위원(공동위원장 · 부위원장 및 간사위원 각 1인, 위원 2인)으로 위원회를 구성하고, 그 밑에 정치 · 군사 · 외교 · 경제 · 문화 등 5개 분과위원회를 두며 판문점에 공동사무국을 설치하기로 하였다. 회의는 2, 3개월에 1회씩, 서울과 평양에서 번갈아 개최하되, 필요에 따라서는 판문점에서도 개최할 수 있도록 규정하였다.
이에 따라 1972년 10월부터 1973년 6월까지 공동위원장 회의 3회, 본회의 3회 등 총 6회의 회의가 개최되었으나 양측의 입장 대립으로 별다른 성과없이 끝났고 1973년 8월 28일 북한 측의 일방적 회의 중단선언으로 실질적으로 활동이 종료되었다.
1970년대 들어 미국의 닉슨 독트린 선언과 미중 데탕트 분위기가 형성되면서 남북 대화도 급물살을 타게 되었다. 1971년 남북 적십자 회담이 비밀리에 열리는가 하면 김영주(金英柱)와 이후락(李厚洛)의 비밀회담을 거쳐 1972년 7 · 4남북공동성명이 발표되었다. 이 성명에 의거하여 남북 간의 현안을 논의하고 처리하기 위한 남북조절위원회가 설치되었다. 남북은 먼저 공동위원장 회의를 개최해 남북조절위원회 설치를 위한 제반 문제를 논의하도록 하였다.
그 결과 제1차 공동위원장 회의는 1972년 10월 12일 판문점 자유의 집에서 개최되었다. 남측에서는 중앙정보부장 이후락, 차장 김치열(金致烈), 국장 정홍진(鄭洪鎭), 북측에서는 부수상 박성철(朴成哲), 당조직지도부 부부장 유장식(柳章植), 당중앙위원회 정치위원회 직속 책임지도원 김덕현(金德賢)이 참석하였다. 회의에서 남측은 우선 남북조절위원회를 정식으로 구성, 발족시키기 위한 실무 문제와 비군사적 교류 협력을 위한 논의를 주장한 반면 북측은 반공정책 중지 · 미군철수 및 국군 전력증강 중지 등과 같은 정치군사적 의제를 제안해 첨예한 대립을 빚었다.
1972년 11월 2일과 3일에 걸쳐 평양에서 개최된 제2차 공동위원장회의에는 남측에서 김치열이 전부총리 장기영(張基榮)으로 교체되었고 대통령 특별보좌관 최규하(崔圭夏), 중앙정보부 국장 강인덕(康仁德)이 추가 참석하였다. 북측에서는 내각참사 이경석(李京錫), 당중앙위 정치위 직속 책임지도원 한웅식(韓雄植) 등 2인이 추가 참석하였다. 2차 회의에서는 1차 회의의 대립이 아무런 성과를 내지 못한 것을 염두에 두어 남북조절위원회 설치에 집중하였다. 그리하여 「남북조절위원회 구성 및 운영에 관한 합의서」를 작성되었고 상호비방 금지 방안도 합의되는 등 상당한 진전이 이루어졌다.
1972년 11월 30일에는 서울에서 제3차 공동위원장 회의를 개최하여 정식으로 남북조절위원회 설치를 마무리짓고 곧이어 정식으로 남북조절위원회 제1차 본회의를 개최하였다. 그러나 회의에서 남북은 여전히 비정치 · 비군사 분야 교류 협력을 우선할 것인지 정치군사 문제를 우선적으로 다룰 것인지를 놓고 팽팽한 의견대립을 보였다.
제2차 본회의는 1973년 3월 15일과 16일 양일에 걸쳐 평양에서 개최되었다. 남측은 각종 회의의 운영세칙 제정과 판문점 공동사무국 신축, 경제 · 문화분과위원회 우선 발족 등을 제의하였으나 북측은 무력증강 및 군비경쟁 중지, 쌍방 군대의 10만 이하 감군, 군장비 도입중지, 평화협정 체결 등 5개 항의 군사제안을 내놓았다. 이 회의에서도 남북은 치열한 대립을 노정하였고 별다른 합의를 도출하지 못했다.
제3차 본회의는 1973년 6월 12일과 13일에 걸쳐 서울에서 개최되었다. 남측은 경제 · 사회분과위원회를 먼저 설치할 것을 재차 강조하면서 경제 · 문화 · 학술 · 체육 · 예술 등 비군사적 분야의 교류와 지하자원 공동개발 등을 제의했다. 그러나 북측은 군사 5개항의 우선토의를 재강조하고 새로이 남북정당 · 사회단체 연석회의 개최를 주장함으로써 회의는 교착상태에 빠졌다. 결국 1973년 8월 28일 북측 공동위원장 김영주는 ‘ 김대중(金大中)납치사건’과 「6 · 23선언」을 구실로 일방적인 대화중단을 선언하였다. 북측은 이 선언 이후, 조절위원회뿐만 아니라 적십자 회담까지도 중단하였다.
1973년 11월 5일 남측은 남북 직통전화를 통하여 제4차 본회의의 조속한 개최를 촉구하고 쌍방 간사위원 간의 접촉으로 조절위원회의 개편 문제를 논의하자고 제의하였다. 그 결과 1973년 12월 5일부터 1975년 3월 14일까지 조절위원회 개편 및 재개를 위한 부위원장 회의가 10회 개최되었다. 이 회의는 남측의 장기영과 북측의 유장식이 대표로 참석해 개최되었는데, 남측은 5인에서 10인 내외의 인원으로 남북조절위원회를 재구성하자고 주장했으나 북측은 350∼1,500명의 위원을 주장해 합의점을 찾을 수 없었다. 이후 북측이 이 제안을 철회하면서 대신 남북정치협상회의 개최를 주장하기도 했지만 남북 간의 의견 차이를 좁힐 수는 없었다.
부위원장 회의는 이와 같은 의견대립으로 진전을 볼 수 없었고, 더욱이 남북관계는 1974년 문세광의 대통령 암살기도사건, 11월 남침용 땅굴 발견 등으로 악화되었다. 결국 북측은 1975년 5월 30일 개최 예정이던 제11차 회의의 무기연기를 통보, 남북조절위원회의 대화는 완전 단절되었다. 그 뒤 1979년 2월과 3월에 판문점에서 3회의 변칙 대좌가 이루어졌지만 회담의 재개는 성사되지 않았다.
「7 · 4남북공동성명」 이후 남과 북은 각각 유신체제 선포와 사회주의 헌법 제정 등 각자의 내부 체제 강화에 몰두하면서 남북 대화에는 별다른 관심을 두지 않았다. 이에 따라 「7 · 4남북공동성명」이 유명무실해지는 상황 속에서 그 연장선상에 있는 남북조절위위원회도 중단되고 말았다.