남북한 교류 및 화합과 남북회담의 효율적 운영을 위하여 1971년 9월에 설립되었다.
남북적십자회담사무국으로 출발하여 1973년 남북조절위사무국과 통합되었다가 1980년 남북대화사무국으로, 1992년 다시 남북회담사무국으로 개칭하여 1997년 현재에 이르고 있다. 통일부장관의 명을 받아 소관사무를 통할하고 소속공무원을 지휘·감독한다.
1997년 현재 국장 밑에 회담운영부와 회담연락부 등 2개 부가 있으며, 회담운영부는 다시 기획과·회담1과·회담2과로, 회담연락부는 연락과·관리과로 나누어져 2부 5과로 운영되고 있다.
회담운영부의 기획과는 남북회담에 관한 협상대책의 수립, 각종 남북한 접촉지침의 작성, 남북회담대책 수립에 관한 국내외 학술·연구 기관과의 협조, 남북한 참가 국제회담 및 국제행사에서의 남북회담관련 전략지원, 남북회담자문기구의 운영, 남북한 회담전략의 비교·분석, 남북회담에 관한 정보의 분석 및 처리, 남북회담에 관한 국내외 반응의 분석 및 처리, 기타 남북회담전략분석에 관한 사항을 담당한다.
회담운영부의 회담 1과는 남북정치 분야에 관한 회담운영계획의 수립, 남북정치 분야에 관한 회담의 진행 및 상황처리, 남북정치 분야에 관한 회담대표단의 운영·지원, 남북정치 분야회담에 관한 유관기관과의 협조, 남북정치 분야회담에 관한 자료의 생산 및 보존관리, 남북군사 분야에 관한 회담운영계획의 수립, 남북군사 분야에 관한 회담의 진행 및 상황처리, 남북군사 분야에 관한 회담대표단의 운영·지원, 남북군사 분야회담에 관한 유관기관과의 협조, 남북군사 분야회담에 관한 자료의 생산 및 보존관리를 한다.
회담운영부의 회담 2과는 남북의 교육·문학·예술·보건·체육·출판·언론 등 사회문화 분야에 관한 회담운영계획의 수립, 남북의 교육·문학·예술·보건·체육·출판·언론 등 사회문화 분야에 관한 회담의 진행 및 상황처리, 남북의 교육·문학·예술·보건·체육·출판·언론 등 사회문화 분야에 관한 회담대표단의 운영·지원, 남북의 교육·문학·예술·보건·체육·출판·언론 등 사회문화 분야회담에 관한 유관기관과의 협조, 남북의 교육·문학·예술·보건·체육·출판·언론 등 사회문화 분야회담에 관한 자료의 생산 및 보존관리업무를 담당한다.
또한 남북의 경제·과학·기술·환경·수송·통신 등 경제 분야에 관한 회담운영계획의 수립, 남북의 경제·과학·기술·환경·수송·통신 등 경제 분야에 관한 회담의 진행 및 상황처리, 남북의 경제·과학·기술·환경·수송·통신 등 경제 분야에 관한 회담대표단의 운영·지원, 남북의 경제·과학·기술·환경·수송·통신 등 경제 분야회담에 관한 유관기관과의 협조, 남북의 경제·과학·기술·환경·수송·통신 등 경제 분야에 관한 자료의 생산 및 보존관리를 한다.
그리고 회담연락부의 연락과와 관리과 두 과는 연락관 파견 및 남북연락에 관한 사항, 판문점 지역 내의 회담행사지원, 판문점 지역의 출입·보안 및 통제, 판문점 지역 내의 동향수집, 판문점 지역 내의 시설 및 장비의 관리, 기타 남북회담 연락에 관한 사항, 남북간 통신협조와 통신망의 관리·운용 등을 수행하고 있다.
1970년대 7차례에 걸친 남북적십자 본회담, 두 차례의 남북조절위원회 회의, 남한측 조절위와 북한측 조국전선 간의 대표접촉 3회, 남북탁구협회 회의 4회를 성사시켰고, 1980년대에는 남북총리회담 실무대표 접촉, 남북체육회담·4차 스위스 로잔 체육회담·남북적십자회담·남북경제회담·남북국회회담 예비 및 준비접촉을 이끌어 냈다.
1990년대에는 제8차 남북고위급회담 및 분과위원회 회의, 남북체육회담, 남북적십자 실무대표 접촉, 남북 특사교환을 위한 실무대표접촉, 남북정상회담을 위한 준비접촉, 남북간 베이징[北京]회담, 4자 예비회담 및 6차의 본회담, 대북 구호물자 전달을 위한 남북적십자대표 접촉, 남북 당국 대표회담, 남북차관급 당국 회담 등을 성공적으로 수행하였던 것이다.
그리고 판문점 내 남북회담 연락기구에는 남북연락사무소, 남북적십자회담 연락사무소, 남북회담사무국 전방사무소, 남북직통전화 등이 있다. 1998년 현재 사무국의 위치는 서울특별시 종로구 와룡동 산 3·25번지에 있다.