1947년 5월 한국문제 해결을 위한 제2차 미소공동위원회가 열렸으나 미국과 소련 대표 사이의 합의가 이루어질 가능성이 희박하였다. 이에 미국은 한국문제를 국제연합으로 이관하였고, 그 해 11월 국제연합 총회는 미국이 제안한 한국통일안을 통과시켰다.
1948년 1월 이 결의에 의한 국제연합 임시한국위원단 방문을 소련과 북한측이 거부함으로써 남북의 통일선거 실시는 불가능하게 되었다. 이에 민족내부적으로는 남북협상을 통해 자주적으로 남북문제를 해결하고자하는 움직임이 일어났다.
종래부터 남한 단독정부 수립을 주장한 이승만과 한국민주당은 “남한만이라도 단독선거를 실시하여 정부를 수립한 뒤에 점진적으로 통일을 성취하자.”고 주장하였다. 이에 김구는 김규식과 함께 남한 단독정부 수립을 반대하였다. 이들은 “남북정치요인회담을 통하여 통일정부 수립을 해야 한다.”고 하여 국론은 이승만 계열과 김구·김규식 계열로 양분되었다.
1948년 2월, 14개 정당과 51개의 사회단체로 구성된 중간파 정치세력의 집결체인 민족자주연맹은 위원장 김규식의 주재로 정치위원 홍명희(洪命憙)와 원세훈(元世勳) 등 5명과 상무위원 안재홍(安在鴻)·여운홍(呂運弘)·최동오(崔東旿)·유석현(劉錫鉉)·이상백(李相佰) 등 17명이 김규식의 숙소인 삼청장에서 연석회의를 열었다.
이 회의에서 북한의 김일성과 김두봉(金枓奉)에게 남북요인회담의 개최를 요망하는 서한을 보내기로 결의하였고, 한국독립당 위원장 김구의 승낙을 얻어 김구와 김규식 두 사람의 연서로 보낼것에 합의하여 같은 달 16일 서울의 소련군 대표부를 통해 전달을 의뢰하였다.
이에 대해 국제연합 임시한국위원단의 인도대표 메논(Vengalil Krishnan Krishna Menon)과 중국대표 리우위완〔劉馭萬〕 등이 관심을 보였다. 그들은 북한측 회답이 오는 대로 국제연합 소총회에 반영하기로 하였고, 국제연합 임시한국위원단 의장 메논은 국제연합 소총회의 보고연설에서 한국문제해결 4개 방안 가운데 제3안으로 “남북한의 지도자회담과 같은 한국의 민족적 독립을 확립할 다른 가능성을 탐구하며, 또한 최소한도로 그것을 주시한다.”라는 방안까지 제안할 정도로 큰 관심을 보였다.
그러나 북한으로부터 아무런 회답이 없자, 그 달 26일 국제연합 소총회는 미국대표의 제안에 따라 메논의 제1방안, 즉 “총선거는 가능한 지역인 남한에서만 추진시킨다.”는 방안을 표결에 붙여 31대2로 가결되었다. 이로써 한국의 분단은 기정사실이 되었다.
이 보도가 국내에 전해지자 단독정부 수립을 추진하던 한국민주당과 대한독립촉성국민회를 비롯한 정당단체 대표들은 이승만을 방문하여 국제연합 소총회결의안 통과 축하국민대회를 열기로 하고, 이후의 선거대책을 토의하였다. 한편, 김구는 국제연합 소총회의 결의에 대해 “한국을 분할하는 남한단독정부도, 북한인민공화국도 반대한다. 오직 남북통일을 위하여 최후까지 노력하겠다.”라고 선언하였다.
그 뒤 북한은 김구와 김규식이 보낸 서신에 대해서는 언급 없이 김일성과 김두봉을 비롯한 9개 정당단체 대표자들의 연서로서 3월 25일의 평양방송과 서신으로 북한민주주의민족통일전선 제26차 중앙위원회의 결정을 알려왔다. 4월 14일부터 평양에서 남한의 모든 민주주의 정당사회단체와의 연석회의를 개최하고, 조선의 민주주의독립국가 건설을 추진시키는 것을 공동목적으로 하자는 내용이었다.
그리고 이 서한을 민족자주연맹·한국독립당·남조선노동당 등 17개 정당사회단체와 김구·김규식 등의 15명에게 전달하였다. 또한 단독선거를 반대하는 정당사회단체에도 이를 전달하였다.
북한이 남북협상에 의한 통일정부수립 제의를 국제연합이 반영할 수 있을 때에는 아무런 회답을 하지 않다가, 국제연합 결의에 의해 남한단독정부 수립이 기정사실화되자 이러한 제의를 한 것은, 남한측의 정부수립노선의 정당성을 약화시키고, 북한측의 입장을 정당화하려는 의도였던 것으로 평가되고 있다.
이러한 상황에도 불구하고, 통일을 갈망하는 국민감정과 기대에 김구와 김규식은 3월 31일 그 동안 남북간에 오고간 서한을 공개하면서 “이번 회담은 그들이 미리 준비한 잔치에 참여만 하라는 것이 아닌가 하는 기우가 없지 않으나, 우리 두 사람은 남북요인회담을 요구한 이상 좌우간 가는 것이 옳다고 본다.”라고 공식태도를 밝혔다. 그 동안 이승만은 남북협상에 관해서는 김규식과 양해한 바에 따라 일체 언급을 회피하고 총선거 준비를 진행하였다.
국내의 여론이 찬반 양론으로 갈라져 들끓는 가운데 김구와 김규식은 북한측의 진의를 알아보기 위하여, 4월 8일 안경근(安敬根)과 권태양(權泰陽)을 평양에 파견하였다. 그들은 김일성과 김두봉을 직접 만나 김일성으로부터 “우리가 통일을 위하여 만나 이야기하는 데는 아무런 조건도 있을 수 없다. 두 선생님께서는 무조건 오셔서 우리와 모든 문제를 상의하면 해결된다.”라는 회답을 가지고 돌아왔다.
이 보고에 김구는 북행을 결심하였으나, 김규식은 여전히 태도를 결정하지 못하였고, 이 때문에 평양회의는 당초 예정했던 4월 14일에서 19일로 연기되었다. 이 사이에 서울에서는 4월 14일 저명한 문화인 108명이 연서하여 남북요인회담의 지지성명을 발표하였다. “남북협상만이 조국의 영구분단과 동족상잔의 비극을 막는 구국의 길이다.”라고 성원하여 북행의 명분을 찾던 김규식도 북행을 결심하게 하였다. 김규식에게 큰 기대를 걸고 있던 미군정의 하지(John Reed Hodge) 사령관은 그의 정치고문 버치(Leonard Bertsch) 중위를 보내 북행을 만류하였다.
김규식은 민족자주연맹 긴급간부회의를 소집, 자신이 북행에 앞서 김일성에게 5개 항의 조건을 제시하여 그 수락을 전제로 하겠다는 입장을 밝혔다. 그 조건은 어떠한 형태의 독재정치도 이를 배격할 것, 사유재산제도를 승인하는 국가를 건립할 것, 전국적 총선거를 통하여 통일중앙정부를 수립할 것, 어떠한 외국의 군사기지도 이를 제공하지 말 것, 미소 양군의 철퇴는 양군 당국이 조건·방법·기일을 협정하여 공포할 것 등으로, 김일성이 받아들이기 어려울 것으로 생각되는 것이었다.
4월 18일 권태양과 배성룡(裵成龍) 두 특사가 다시 평양으로 가서 김일성을 만나, 5개 항의 조건을 수락한다는 의사를 확인하였다. 이 사실은 이날 밤 평양방송을 통하여 남한으로 보도되었다. 김규식은 이것으로 북행의 명분을 세우고, 22일 민족자주연맹의 대표단 16명과 함께 평양으로 떠났다. 이미 김구가 단독으로 떠난(4월 19일) 뒤였다.
이렇게 남북연석회의가 열리게 되었다. 남북연석회의란 남북 정당·사회단체 대표자 연석회의의 준말로, 남북의 정당과 사회단체 대표자들이 한 자리에 모여 관심사인 문제를 토의하는 회의 방식이었다. 남북연석회의는 1948년 4월 19∼23일 평양에서 열려 남한의 단독 총선거를 반대하는 투쟁을 결의한 것이 출발이었다. 당시 북한은 한반도 전역에서의 총선거 실시라는 유엔 결의를 수행하기 위해 파견된 유엔한국임시위원단의 입북을 가로 막았으며 내부적으로는 인민회의에서의 헌법 초안 마련, 인민군 창설, 주요 산업 국유화 등 사회주의 개조 작업을 진행하여 독자 정권 수립을 진행시켜 나가고 있었다.
남북연석회의 제1일회의는 4월 19일 오후 1시 평양 모란봉극장에서 대표자 545명이 참석한 가운데 개막, 주석단 28명 입장, 김일성 사회, 대표심사위원 9명, 김두봉·허헌(許憲) 외 여러 명의 축사로써 일정을 완료하였다.
제2일회의는 4월 21일 오전 11시에 개회, 북조선 정세에 관한 김일성의 보고가 있었고, 오후 1시부터 백남운(白南雲)과 박헌영(朴憲永)의 남조선정치정세보고에 이어 토론이 있었다.
제3일회의는 4월 22일 오전 10시 20분부터 백남운의 사회로 개회, 청년대표의 축하, 21일에 이은 토론, 오후 김구·조소앙·조완구·엄항섭(이상 한국독립당), 원세훈·김붕준(金朋濬)·최동오·윤기섭(尹琦燮)·송남헌(宋南憲)·신숙(申肅)(이상 민족자주연맹), 홍명희(민주독립당)의 입장, 김구·조소앙·조완구·홍명희 등 4명을 주석단으로 보선하였다.
제4일회의는 4월 23일 김원봉(金元鳳)의 사회로 개회, 북조선여성대표의 축사, 이어 홍명희의 ‘남조선정치정세에 관한 결정서’ 낭독이 있은 다음 이것을 만장일치로 결의한 뒤, 본회의의 이름으로 「삼천만 동포에게 호소하는 격문」을 채택, 이극로가 낭독하고, 여기에 이 회의에 참가한 16개 정당대표와 40개 단체대표가 서명하였다. 4월 25일에는 오전 11시부터 김일성광장에서 34만 명의 연석회의 축하대행진과 시민대회, 오후 4시부터 북조선인민위원회의실에서 김일성 초대연 등이 있었다.
제5일회의는 4월 26일 미소 양군의 즉각 철군을 요청하는 메시지를 양국에 전달할 것을 결의, 채택하고, 허헌의 남조선대책보고연설이 있은 뒤 단선단정반대전국투쟁위원회를 결성할 것을 결의하는 것으로 연석회의의 공식일정이 끝났다.
4월 26일 연석회의의 공식일정이 끝난 다음 27일부터 30일까지 김구·김규식·조소앙·조완구·홍명희·김붕준·이극로·엄항섭·김일성·김두봉·허헌·박헌영·최용건(崔鏞健)·주영하(朱寧河)·백남운 등 15명으로 구성된 남북요인회담이 개최되어, 김규식이 제시한 바 있는 5개 항의 조건을 중심으로 토의가 이루어졌다.
이어, 남북통일정부 수립방안을 작성하였는데, 그 내용은 다음과 같다.
첫째, “소련이 제의한 바와 같이 우리 강토에서 외국군대가 즉시 철거하는 것이 조선문제를 해결하는 유리한 방법이다.”
둘째, “남북정당사회단체지도자들은 우리 강토에서 외국군대가 철퇴한 뒤에 내전이 발생할 수 없다는 것을 확인한다.”
셋째, “외국군대가 철퇴한 이후 다음 연석회의에 참가한 모든 정당사회단체들은 공동명의로써 전조선정치회의를 소집하여 임시정부를 수립하고 통일적 조선입법기관을 선거하여 통일적 민주정부를 수립해야 한다.”
넷째, “위의 사실에 의거하여 이 성명서에 서명한 모든 정당사회단체들은 남조선단독선거의 결과를 결코 인정하지 않을 것이며 지지하지도 않을 것이다.” 였다.
남북요인회담을 진행되는 사이, 김구·김규식·김일성·김두봉은 이른바 ‘4김 회담’이라고 하여 김두봉의 제의 하에 연백평야에 공급하다 중단된 수리조합 개방문제, 남한으로 공급하다 중단한 전력의 지속적인 송전문제, 조만식(曺晩植)의 월남허용문제, 만주 여순에 있는 안중근(安重根)의 유골 국내이장문제 등에 관해 논의하였고, 이에 김일성은 수리조합 개방, 전력 송전에 대해서는 즉석에서 수락하였고, 조만식과 안중근 이장문제는 뒤로 미루었다.
그러나 김구와 김규식이 서울로 돌아와 국민들에게 이 사실을 발표한 며칠 뒤, 다시 수리조합과 전력송전을 중단하고 약속을 이행하지 않았다. 결국 남북협상은 아무런 성과도 거두지 못하고, 이후 대한민국 정부수립과정에서 이들 통일정부수립노선을 택하였던 인사들이 배제되는 결과만을 가져왔다.
미소냉전체제의 국제정세하에서 민족의 분열을 막고 통일국가수립을 위한 노력은 분단시대의 중요한 민족적 과제라 할 수 있다. 남북협상이 민족의 꿈으로 사라질 것을 예견하면서도 두 지도자가 북행을 결행한 것은 민족과 역사 앞에서 자기의 의무를 완수하겠다는 애국적 행동으로 평가되기도 하지만 한편으로 그들의 북행은 김일성단독정권 수립책략에 이용된 것이었다고 평가 되기도 한다.
이후 북한은 대남전략에 입각하여 정당·사회단체 연석회의 또는 정치협상회의를 남북관계와 통일문제를 협의하는 회의체 형식으로 지속적으로 주장해 왔다. 1970년대에 들어와 당국 간 회담인 남북조절위원회가 가동되어 불완전하나마 사실상 서로의 실체를 인정한 후에도 이 연석회의 주장은 계속되었다. 그 명칭은 시기에 따라 바뀌어 왔지만 기본적으로 각계를 대표하는 인사들이 모여 남북의 입장을 떠나 개인적인 의사를 표명하고 이를 집합하여 결론을 낸다는 것에는 변함이 없다.