1206년, 몽골 부족 출신의 테무친은 몽골 초원의 여러 부족들을 통합하여 예케 몽골 울루스(Yeke Mongol Ulus)라고 하고, 칭기즈칸에 추대되었다. 이후 칭기즈칸은 탕구트, 오이라트 등 중앙아시아 · 서아시아 방면과 여진(금) 방면으로 원정을 단행하다가 1227년에 탕구트 원정 도중 사망하였다. 칭기즈칸을 계승하여 1229년에 칸 자리에 오른 오고타이는 1331년부터 동 · 서 양 방면으로 원정을 단행하였다. 몽골제국의 영토 확장은 이후 5대 칸 쿠빌라이 대에 남송을 정벌할 때까지 계속되어 그 영역은 유라시아를 아우르는 범위까지 확장되었다.
유목 국가로서의 성격을 갖는 몽골제국은 그 민과 영역을 황실 구성원들에게 분봉(分封)하는 형태로 제국을 구성하고 운영하였다. 국호인 예케 몽골 울루스에서 ‘울루스’란 민을 가리키는 용어로, 점차 그 민들이 생활하는 땅의 의미까지 포함하고 있다. 즉, 예케 몽골 울루스 아래에는 분봉을 받은 황실 구성원들이 하위 울루스로 층차를 이루고 있었다. 예컨대, 러시아 방면의 주치 울루스, 중앙아시아 방면의 차가다이 울루스, 페르시아 방면의 훌레구 울루스가 있었고, 대칸이 직접 다스리는 칸 울루스가 있었으며, 그 아래에는 다시 그 자제들에게 분봉된 하위 울루스들이 분포하고 있었다.
각 울루스들은 역참으로 연결되어 천호제나 케식 제도 등 몽골의 기간 제도와 조직을 유지하는 한편 현지의 제도와 문화의 영향을 흡수하여 통치에 활용하기도 하였다. 쿠빌라이가 집권 후 한지(漢地)를 중심 기반으로 하면서 한법(漢法)을 도입하여 국가의 제도를 개편하고 대원(大元)이라는 한자식 국호를 제정한 것도 그러한 현지화의 일환이었다. 다만, 이는 ‘중국’의 영역만을 아우르는 국호가 아니라, 유라시아 전역을 아우르는 ‘예케 몽골 울루스’의 한자식 국호였으며, 대원은 몽골의 기간 제도와 조직은 여전히 유지하고 있었다.
몽골과 고려의 접촉은 몽골이 그 세력을 확장해 가던 과정에서 이루어졌다. 몽골이 여진, 즉 금나라를 공격하는 과정에서 옛 거란의 유민들이 독자적 세력을 형성하고자 하여 대요수국(大遼收國)을 건설하였으나 내분이 발생하여 일부 세력이 몽골에 투항하였다. 이에 몽골 측에 쫓긴 나머지 세력은 1216년(고종 3)에 고려 영내로 들어갔다가 조충(趙沖)과 김취려(金就礪)가 이끄는 고려군의 공격을 받아 강동성(江東城)에 웅거하였다.
1218년(고종 5) 말에 동진(東眞)의 군사와 함께 뒤쫓아 온 몽골군 수장 합진(合眞)은 고려에 협공할 것을 요구하였다. 양국의 협공으로 이듬해 강동성의 거란 유민들은 항복하였고, 몽골 측의 요구에 따라 고려와 몽골은 이른바 ‘형제 맹약’을 맺었다.
이후 몽골은 해마다 사신을 고려에 보냈는데, 무리한 공물 요구와 사신들의 무례한 태도로 고려 측에서 불만이 쌓여 가는 가운데, 몇 차례 고려에 왔던 몽골 사신 저고여(著古與)가 1225년(고종 12) 돌아가는 길에 국경 지역에서 피살되는 사건이 발생하였다. 몽골 측에서는 이를 고려 측 소행으로 보고 양국 관계를 단절하였다. 이후 1227년(고종 14)에 칭기즈칸이 사망한 뒤 1229년(고종 16)에 즉위한 우구데이 칸은 내부적인 상황을 수습한 뒤 1231년(고종 18)에 동서 양방향으로 원정을 시작하면서 고려가 저고여를 살해한 것을 명분 삼아 고려를 침공하였다.
1231년(고종 18) 8월에 살리타이〔撒禮塔〕를 수장으로 한 몽골군이 고려를 침공하여, 12월에는 개경을 포위하였다. 그 과정에서 구주(龜州)의 박서(朴犀) 등이 선전하였으나, 개경이 포위된 상황에서 고려 조정은 항복을 결정하였다.
몽골군은 북계 지역에 다루가치〔達魯花赤〕 72명을 남기고 철수하였다. 그러나 당시 무신집권자였던 최우(崔瑀)는 곧이어 1232년(고종 19) 6월에 강화도로 천도하고 각지의 주민들을 산성과 해도로 입보시켜 몽골에 대한 항전을 준비하였다. 이에 1232년(고종 19)에 살리타이가 이끄는 몽골군이 다시 고려를 침공하여 개경으로 환도할 것을 요구하였으나, 수장 살리타이가 처인성(處仁城)에서 승장 김윤후(金允侯)의 화살에 맞아 사망하게 되면서 몽골군은 철수하였다.
이후로도 몽골군은 12351239년에 당구〔唐古〕, 12471248년에 아무간〔阿母侃〕, 12531254년에 예쿠〔也窟, 也古〕, 12541259년에 잘라이르타이〔車羅大〕를 수장으로 하여 고려를 침입하였다. 이 과정에서 몽골은 출륙환도와 함께 고려 국왕의 친조(親朝)를 통한 항복, 왕의 자제를 투르칵〔禿魯花〕, 즉 질자(質子)로 파견할 것 등을 요구하였다.
이에 고려 측에서는 고종이 모후의 상중임을 구실로 1239년(고종 26)과 1245년(고종 32)에 종실 신안공 전(新安公 佺)을 왕의 동생이라 하고 입조하게 하였다. 또한 1241년(고종 28)에 종실 영녕공 준(永寧公 綧)을 왕의 애자(愛子)라 하고 양반 자제 10명과 함께 투르칵으로 보냈다.
고려 측에서 여러 구실을 들어 고종의 친조를 실행하지 않고 출륙환도도 이루어지지 않는 가운데, 몽골의 공격은 칸 교체 등 내부적인 상황에 영향을 받으며 간헐적으로 계속되었다. 그에 대응하여 별초군의 활동과 다인철소민의 승전과 같은 민의 항전이 계속되었지만, 전쟁이 장기화하면서 고려의 피해는 커졌다. 1257년(고종 44)에는 몽골이 다시 공격하는 한편으로 태자의 친조로 국왕 친조를 대체할 수 있음을 알려 왔다.
이에 몽골의 요구를 받아들여 강화를 하자는 강화론이 힘을 얻게 된 가운데 1258년(고종 45)에 항전을 주장하였던 무신집권자 최의(崔竩)가 유경과 김준(金俊) 등에게 피살되면서 최씨 정권은 종식되었다. 이후 양국의 화의 교섭이 급속히 진행되었고, 1259년(고종 46)에 태자 전(倎)이 몽골 헌종 뭉케를 만나 전쟁을 종식시키기 위해 몽골로 향하였다.
남송 원정길에 올랐던 헌종 뭉케가 도중에 사망하면서 태자 전은 남송 원정 중 북상하던 황제(皇弟) 쿠빌라이를 만나 그 병영에 머물게 되었다. 마침 고려에서 고종이 사망하자, 쿠빌라이는 태자 전을 고려 국왕에 책봉하여 돌려보내니, 그가 원종(元宗)이다.
북상한 쿠빌라이는 동생과 칸의 자리를 두고 계승 분쟁을 거쳐 황제 자리에 오르게 되었다. 그가 세조(世祖)이다. 양자 사이에 화의가 성립되어 양국 간 전쟁은 끝을 보게 된다. 이 과정에서 고려는 그 풍속을 바꾸지 않을 것〔불개토풍(不改土風)〕, 몽골 조정에서만 사신을 보낼 것, 적절한 시기를 보아 개경으로 환도할 것, 몽골군 철수, 다루가치를 두지 말 것 등을 요구하여 몽골 측의 승낙을 얻었다. 이후 1261년(원종 2)에 태자 심(諶)이 원나라에 입조하였고, 1264년(원종 5)에는 원종이 친조하였다.
양국 간 강화가 체결되었으나 이후로도 고려는 강화에서 개경으로 환도하는 것을 늦추고 있었고, 몽골이 일본 초유를 계획하면서 고려의 원조를 요청하였으나 고려가 미온적으로 대응하였다. 이러한 상황에서 양국 관계는 불안정하게 유지되었다.
또한 고려에서는 최씨 정권이 종식된 후에도 무신정권은 유지되고 있었다. 1268년(원종 9)에 임연(林衍)은 무신 집권자 김준을 제거하고 집권하였는데, 이듬해 5월에 임연이 원종을 폐위시키고 그 동생 안경공 창(安慶公 淐)을 왕위에 올리는 일이 발생하였다. 이에 당시 몽골에 있다가 귀국 중이던 세자 심이 몽골로 되돌아가서 세조 쿠빌라이에게 군대를 요청하는 한편 황실의 딸과 혼인하게 해줄 것을 요청하였다. 이는 몽골의 권력과 권위를 빌어 부왕을 복위시키고, 나아가 무신집권기를 거치며 실추된 왕권을 황실의 권위에 기대어 회복하고자 한 요청이었다고 이해되고 있다.
일단 세자 심의 요청이 받아들여져 1269년(원종 10) 10월에 원종이 복위되었다. 원종은 복위 후 몽골에 갔다가 돌아오면서 개경으로 환도할 것을 선포하였다. 1270년, 임연이 사망하고 그의 아들 임유무(林惟茂)가 정권을 이어받았으나 곧이어 휘하의 장수들에게 피살되며 무신정권은 종식되었다.
개경 환도 및 그 과정에서 명단을 압수하라는 명에 반발하며 삼별초가 난을 일으켜 항쟁을 계속하다가, 1273년 고려 · 몽골 연합군에 의해 진압되었다. 이후 1274년 5월, 세자 심은 몽골에서 세조 쿠빌라이의 딸 쿠틀룩케르미쉬〔忽都魯揭里迷失〕 공주와 결혼하였다.
몽골제국 초기에 지배 가문 간의 통혼은 이합집산이 빈번한 유목사회에서 정치적 제휴를 보다 안정적으로 유지하기 위한 기제였다. 또한 몽골의 지배체제가 안정된 이후에는 솔선하여 스스로 복종한 공신이나 친신에 대한 황제의 은사(恩賜)로서의 의미를 갖게 된다. 그런 점에서 30여 년 동안 몽골에 항쟁한 고려는 황실의 적절한 통혼 대상은 아니었다.
그러나 몽골 황제가 책봉한 국왕을 고려의 권신이 폐위시킨 상황, 곧이어 발생한 삼별초항쟁 등 고려와의 관계에서 위기의식을 느낀 세조 쿠빌라이는, 남송과 일본에 대한 원정을 앞둔 상황에서 고려가 이들과 연계할 수 있다는 우려 등으로 자신의 친딸과 고려 세자의 통혼을 허락하였던 것으로 보인다. 그리고 이후 몽골(원)과의 관계가 정리될 때까지, 어린 나이에 사망한 충목왕과 충정왕을 제외한 모든 고려의 국왕들은 몽골 공주와 통혼하여, 양 왕실 간에는 세대를 거듭한 통혼이 이루어지게 된다.
한편, 고려 국왕들은 즉위 전 몽골 황실의 친위부대인 케식〔怯薛, kešig〕에 참여하였다. 이는 전쟁 중에 몽골에서 요구하였던 투르칵 파견과도 관련되는 것으로, 고려 종실을 비롯하여 투르칵으로 파견된 고려인들은 모두 케식에 들어갔다. 투르칵, 즉 독로화(禿魯花)는 한문 사료에서는 이를 인질을 의미하는 “질자(質子)”, “질(質)” 등으로 표기하기도 하는데, 위사(衛士)를 의미하는 몽골어 turɤaɤ을 음사한 것으로 케식의 원형을 이루는 것이라고 할 수 있다.
몽골의 케식 제도는 몽골제국을 초창기부터 구성해 온 여러 세력의 자제뿐 아니라, 정복 활동의 결과로 새롭게 내투한 외부 정치 세력 수장의 자제를 포함하였는데, 여기에는 그들을 견제하는 인질로서의 의미와 함께 이들을 제국의 지배층으로 재교육시키는 기제로서의 의미도 있었다. 이들은 칸의 신변 경호를 담당하면서 그 일상생활 전반을 함께 하며 봉사하였고, 정부 기구와도 연관되어 그 인력을 제공하는 인적 기반이 되기도 하였다. 이러한 케식의 지위는 세습되어, 칸과 케식 구성원의 관계는 세대를 거듭하여 재생산되었다.
이러한 케식의 특징은 고려 종실로서 몽골 케식에 참여한 경우에도 마찬가지였다. 고종 대 영녕공 왕준을 투르칵으로 파견한 이후, 고려 국왕들은 자제를 투르칵으로 몽골에 보내어 케식에 참여하게 하였다. 충렬왕 이후 고려 국왕들은 어린 나이에 즉위한 충목왕과 충정왕을 제외하고는 모두 즉위 전 케식에 참여하였다.
고려 국왕 이외에도 고려 종실 구성원으로서 케식에 참여한 사례가 있다. 우선 충렬왕이 즉위한 뒤 아들 왕장(王璋)이 아직 어렸을 때 충렬왕 본인을 대신하여 방계 종실인 대방공 징(帶方公 澂)을 투르칵으로 보내 케식에 참여하게 하였다. 이후 대방공 징의 자제들도 케식의 지위를 세습하였다.
충렬왕과 충선왕이 국왕 자리를 두고 경쟁할 당시, 충렬왕은 방계인 서흥후 전(瑞興侯 琠)을 투르칵으로 보내어 케식에 들어가게 하기도 하였고, 이후 충선왕의 조카인 심왕(瀋王) 고(暠)도 케식에 들어갔던 것으로 보인다. 또한 고려 왕자 및 종실로서 케식에 참여하는 자를 수행한 양반 자제들도 케식에 참여하여 각기 그 지위를 세습하였다.
고려를 포함하여 정치 단위의 수장들이 그 자제를 케식으로 보내고, 그 아들이 수장 자리를 계승하면 다시 그 자제를 케식으로 보내기는 하였으나, 원칙적으로 케식에 참여해야만 고려 국왕에 오를 수 있도록 몽골 측에서 규정하였는지 여부는 분명하지 않다. 그러나 고려에서는 케식에 참여하는 것을 고려 국왕 자리에 오르기 위한 통과 의례와 같이 인식하였던 것으로 보인다. 고려 국왕들이 즉위 전 케식에 참여하여 그 주군인 몽골 황제와 맺는 관계, 케식에 있는 다른 몽골 지배층 자제들과 맺는 관계는 중요한 인적 기반이 되기도 하였다.
고려와의 전쟁이 일단락한 뒤, 몽골은 일본과 관계를 맺고자 하여 일본에게 항복을 권하는 조서를 전할 사신을 보내면서 고려로 하여금 그 사신단을 호송하도록 하였다. 이는 몽골이 복속국에 요구하는 이른바 ‘6사(事)’ 가운데 하나인 군사적 협력 요구의 일환으로 고려에 요구된 것이었다.
초기에는 고려 측에서 이에 비협조적이기도 하였지만, 몽골 사신단이 일본에 도착한 후에도 일본 측에서 응하지 않자, 몽골은 그간의 일본 초유 시도를 중단하고 일본 원정으로 방침을 전환하면서 1271년(원종 12) 3월, 고려에 군대를 보내어 일본 원정을 위한 둔전군을 설치하고자 하였다. 이에 고려에는 흔도(忻都)를 도원수(都元帥)로 하고 홍차구(洪茶丘)를 우부원수, 유복형(劉復亨)을 좌부원수로 하는 동정도원수부(東征都元帥府)가 설치되었고, 당시 몽골에 있던 고려 세자 심(뒤의 충렬왕) 또한 일본 정벌전 수행을 돕겠다는 명목으로 귀국하였다.
당시 삼별초항쟁이 발생한 상황에서 몽골군은 이를 진압하는 데에 참여하였다가, 1273년(원종 14) 4월 삼별초항쟁이 진압된 후 본격적으로 일본 원정을 준비하여 1274년(원종 15)에 제1차 일본 원정을 단행하였다. 이때 고려 측에서는 김방경(金方慶)을 도독사(都督使)로 삼아 8,000여 명의 군사와 초공 · 수수 및 전함으로 원정에 참여하였다. 그러나 1차 원정은 몽골에 큰 손실을 안기고 실패하였다. 몽골은 1차 원정이 실패한 뒤 곧바로 2차 원정을 위한 준비를 시작하였고, 이 과정에서 고려에는 정동행중서성(征東行中書省), 즉 정동행성이 설치되었다.
당시 충렬왕은 자청하여 정동행성의 장관인 승상(丞相)직을 맡았는데, 이는 1차 일본 원정을 주도하였던 흔도와 홍차구 등이 정동행성의 우승(右丞)으로 임명된 데 따른 것이었다. 흔도도 그러하지만, 특히 홍차구는 몽골과의 전쟁 중 몽골에 투항해 요양과 심양 지역의 고려 유민들을 그 세력 기반으로 삼았던 홍복원(洪福源)의 아들로, 이 시기 대표적 부원배였다.
홍차구는 동정원수부 부원수로 고려에 와서 고려 국왕에 대해 예를 갖추지 않았다. 또한 일본 원정과 관련한 업무를 수행하는 과정에서 고려 국사(國事)의 범주에 드는 업무에까지 영향력을 행사하였으며, 이후 1277년에 발생한 김방경 무고사건 과정에서는 고려를 모함하기도 하였다. 무엇보다 몽골 황제의 관리들과 고려 국왕 사이에 위계가 명확하지 않은 상황은 충렬왕에게 부담이 되었고, 이에 충렬왕은 김방경 무고사건과 관련하여 1278년(충렬왕 4)에 원나라에 입조하였을 때 세조 쿠빌라이에게 요청하여 홍차구와 그 군대를 고려에서 철수시킨 바 있었다.
그런데 1280년(충렬왕 6)에 고려에 정동행성이 설치되면서 홍차구와 흔도가 우승으로 임명되자, 이전과 같은 일이 재발할 것을 우려하여 충렬왕은 스스로 정동행성의 업무를 주관할 것을 요청하였던 것으로 보인다. 이러한 충렬왕의 판단은 주효하여, 이후 충렬왕은 정동행성 승상으로서 우승이었던 흔도 및 홍차구보다 우위에서 일본 원정을 준비할 수 있었다. 여기에는 당시 충렬왕이 정동행성 승상으로서의 인장과 함께 부마 고려 국왕의 인장을 받아 황실 부마로서의 위상과 고려 국왕으로서의 위상이 행정적으로 일체화한 것이 영향을 미친 측면도 있다.
정동행성이 주축이 되어 실행한 1281년(충렬왕 7)의 제2차 일본 원정은 다시 실패하였다. 이후 고려에 설치되었던 정동행성은 폐지되었다가 1287년(충렬왕 13)에 다시 설치되었다. 이때 정동행성이 다시 설치된 것은 제국 동변의 종왕인 나얀〔乃顔〕이 일으킨 난과 관련되는 것으로 이해되고 있다.
세조 쿠빌라이 생전에는 몇 차례 일본 원정 준비가 재개되기도 하였으나 그의 사후에는 일본 원정 계획은 철회되었다. 그러나 1287년(충렬왕 13)에 다시 세워진 고려의 정동행성은 일본 원정 계획이 철회된 이후에도 계속 유지되었다.
이러한 사실을 두고 기존에는 그 배경으로 고려의 내정에 간섭하기 위한 원나라의 의도를 주요하게 고려하였다. 이는 1299년(충렬왕 25)에 원래 정동행성에는 배치되지 않았던 평장정사(平章政事)에 활리길사(濶里吉思)를 임명하여 고려 내정에 간여하였던 사건이 주요한 근거가 되었다. 그러나 이후에는 정동행성을 통해 원나라가 고려의 내정에 간여한 사례가 없었기 때문에, 이를 근거로 원의 고려 내정 간섭 의도를 정동행성 유지의 주요 배경으로 이해하기는 어렵다.
일본 원정 철회 이후로도 정동행성이 유지되었던 배경과 관련해서는 여러 논의들이 이루어지고 있는데, 결과적으로 정동행성 유지가 고려에 미친 영향은 크게 2가지로 이야기할 수 있다. 첫 번째는 입성론(立省論)이다. 고려의 정동행성은 원나라의 다른 행성들과 달리, 고려 국왕이 승상을 겸하며 그 관원에 대한 보거권을 가졌고, 평장정사, 참지정사 등 고위 관원이나 주요 속사(屬司)를 비워두고 있었다.
이에 몽골과의 관계 속에서 정동행성의 구성과 운영을 원나라의 내지와 동일하게 하자는 이른바 ‘입성론’이 수차례 제기되었다. 입성론은 초기에는 요양(遼陽) 행중서성 세력에 의해 제기되기도 하였지만, 주로 왕위 계승 분쟁에 병행하여 고려의 정치 세력들에 의해 제기되었다. 이는 모두 성사되지 않았지만, 고려의 정국을 어수선하게 하였다.
두 번째는 중국의 관료제적 질서가 고려에 적용되는 계기가 되었다는 점이다. 대표적으로 양국 사이에 행이되는 문서식의 변화를 들 수 있다. 고려에 정동행성이 설치된 뒤 원나라 중서성에서는 충렬왕에게 문서를 보낼 때 자(咨)식 문서를 보내기 시작하였다.
이전과 같이 상호 통속 관계가 없는 관부, 관인, 기관 간에, 그리고 외교문서에 첩(牒)식 문서도 사용되었지만, 2품 이상의 동격 관부와 관인들 사이에 사용되던 관문 서식인 자식 문서가 원나라 중서성과 고려 국왕 사이에서 행이 되었던 데에는 고려 국왕이 정동행성 승상을 겸하고 있었던 상황이 주효하게 작용하였던 것으로 이해되고 있다. 이러한 양상은 다른 분야에서도 확인되는 한편, 조선시대에 더욱 정비되는 양상을 보인다.
1375년 10월, 원나라에서는 고려 왕실의 동성혼에 대해 문제를 제기하면서, 다른 몇 가지 사안과 함께 고려의 관제나 왕실 용어의 참월함을 지적하였고, 같은 달 고려에서는 관제를 개편하였다. 이후에도 고려 관제의 참월함은 충선왕이 폐위되는 과정에서 근거로 작용하기도 하였다. 이때 고려의 모든 관제가 완벽하게 제후국의 관제로 개편된 것은 아니었지만, 이를 계기로 기존에는 주로 외교적인 공간에서만 기능하였던 고려 국왕과 고려의 제후 · 제후국의 위상이 고려 국내에서도 기능하게 되었다.
몽골과의 관계 속에서 고려 국왕과 고려의 제후 · 제후국으로서의 위상은 고려 국내의 관제나 용어뿐 아니라 고려 왕위의 문제에서도 기능하게 되었다. 기존 중국 왕조와의 관계에서 주로 사후적인 절차로 행해졌던 황제의 국왕에 대한 책봉이 실질적으로 행해지게 되었고, 그 결과 이 시기에는 국왕에 대한 폐봉도 실행되었다.
다만, 몽골 측에서 고려 국왕을 책봉하고 폐위시킨 것이 반드시 황제의 제후에 대한 책봉 권한을 염두에 둔 것이었다고 보기는 어렵다. 또한 몽골 황제가 고려 국왕을 책봉하고 폐위시키는 과정에는 앞서 살펴 본, 몽골 황실과 고려 왕실의 관계 여하가 영향을 미치고 있었다. 이는 지배 가문 간 통혼이나 수장 자제의 황실 케식 참여 등 몽골이 다른 정치 단위와 관계를 형성하고 유지하였던 방식과 관련된 요소이다.
몽골 황제 · 황실과의 통혼은 무신집권기를 종식시키고 왕권을 재구축해야 하였던 고려 왕권에 기반이 되었고, 충렬왕은 고려에서 활동하는 몽골 관인들과의 관계에서도 황실 부마로서의 위상을 적극적으로 활용하였다.
케식 활동을 통한 몽골 황실 구성원들과의 관계 또한 그러하여, 충선왕이 폐위되어 충렬왕 및 그 지지 세력과 정쟁을 벌이다가 성종 사후 무종 카이샨을 옹립하여 그 공으로 심양왕(瀋陽王)에 책봉되며 고려의 정권을 장악하고, 뒤이어 고려 왕위에 다시 오르게 된 데에는 충렬왕이 폐위 후 몽골에서 케식 생활을 하며 종왕 카이샨 및 그 동생 아유르바르와다(뒤의 인종)과 맺은 관계가 주효하게 작용하였다. 그러나 이러한 황제 및 황실과의 관계는 그 성격상 복수로 형성될 수 있었고, 그 관계를 매개로 한 권력 역시 고려 국왕에게 일원적으로 이어지지 않는 상황이 발생할 수 있었다는 점은 고려 왕권에 제약으로 작용하였다.
요컨대, 고려 왕위에 오르는 데에는 여전히 고려 왕실의 정통성이 중요하였지만, 동시에 국왕위를 유지하고 왕권을 행사하는 데에는 몽골 황제 · 황실의 관계 여하가 중요해졌다. 이에 고려 국왕이 황제 · 황실과 형성한 관계보다 긴밀하고 강고한 관계를 형성한 또 다른 권력 주체가 등장할 경우 신료들 역시 그를 중심으로 결집하기도 하여 고려의 왕위와 왕권이 위협받게 되었다. 충렬왕과 충선왕, 충숙왕과 심왕, 충숙왕과 충혜왕 사이에서 발생하였던 수차례의 중조(重祚)와 왕위 계승 분쟁은 위와 같은 관계의 구조 속에서 고려 국왕 및 또 다른 권력 주체, 고려 신료들이 각자의 이해관계 속에서 정치 활동을 하는 가운데 발생한 것이었다.
고려와 몽골 간에는 다른 시기에 비하여 폭넓은 인적 교류와 그에 수반한 문물의 교류가 이루어졌다. 이 시기 고려에서 유행한 몽골풍과 몽골에서 유행한 고려양은 그러한 인적 · 물적 교류의 상징이다.
몽골과의 관계 속에서 고려에 들어온 문물로서 대표적인 것이 성리학이다. 충렬왕 대인 1289년(충렬왕 15)에 사신으로 갔던 안향(安珦)에 의해 고려에 소개된 성리학은 이후 백이정(白頤正), 이제현(李齊賢) 등을 거치며 고려에 자리잡게 된다.
당시 원나라에서는 성리학을 관학으로 삼고 인종(仁宗) 대에 시작된 과거에서 성리학 관련 과거시험을 치르면서 성리학과 관련한 서적을 과거시험 과목으로 지정하였다. 이에 원나라의 과거, 즉 제과(制科)에 응시하고자 하는 고려인들이 성리학을 공부해야 하였던 것은 성리학이 고려에 빠르게 자리잡을 수 있었던 배경이 되었다.
원나라 제과에 응시하고자 하는 고려인들 가운데에는 원나라 대도(大都)에서 유학 생활을 하는 경우도 다수 있었다. 원나라 제과에 급제하여 원나라 조정에서 관직 생활을 하였던 이곡(李穀)이 그 아들 이색(李穡)을 원나라 성균관에 입학하도록 한 것이 대표적 사례이다.
이 외에도 이 시기 원나라 대도에는 다양한 범주의 고려인들이 단기간 혹은 장기간 체류하였다. 이들 가운데에는 공녀와 환관과 같이 양국의 관계 속에서 끌려간 고려인들도 있었고, 케식 등의 사유로 원나라에 체류하는 고려 국왕이나 종실을 수행하며 자의 반 타의 반으로 그 스스로도 케식이 되었던 고려인들도 있었다. 또한 이 가운데에는 구법(求法)을 위하여, 황제의 부름을 받거나 자신의 사찰 재건 비용을 마련하기 위하여 원나라를 찾은 고려 승려들도 있었고, 이윤을 추구하는 상인들과 같이 보다 확장된 세계에서의 성취를 위하여 원나라를 찾은 고려인들도 있었다.
강화 이후 100년 가까이 이어졌던 고려와 몽골의 관계는 1356년(공민왕 5)에 공민왕이 기철(奇轍) 등 부원세력을 제거하면서 단행한 일련의 개혁을 계기로 변화를 보이기 시작하였다. 부원세력 제거에 이어 공민왕은 정동행성의 속사인 이문소(理問所)를 혁파하고, 압록강 서쪽 8 참(站)을 공격하는 한편 쌍성총관부를 수복하게 하였으며, 원나라의 지정(至正) 연호 사용을 중단하고 관제를 개편하였다. 1356년에 행해진 일련의 조처를 두고 ‘ 반원개혁’이라고 한다.
공민왕이 이 시점에 이러한 조처를 한 배경에는 몽골과의 관계에 기반한 고려 권력구조 문제가 있었다. 이 시기 고려 왕권은 상당 부분 몽골황제 · 황실과의 관계에 기반하고 있었다. 그러나 이러한 관계는 고려 국왕 1인이 독점할 수 없는 속성을 가졌다.
고려 왕권을 제약하는 이러한 상황은 충혜왕 대에 고려 여성 기씨가 혜종(惠宗) 토곤테무르〔妥懽帖睦爾〕의 황후가 되어 황태자를 출산하고, 기황후 세력의 지원을 받으며 왕위에 오른 공민왕 대에 이르러 기씨의 아들이 황태자에 책봉되고 그를 위한 선위 시도가 이루어지는 상황에서 더욱 부각되었다. 이는 기씨의 세력이 강성하여 공민왕의 왕권 행사에 제약이 되는 표면적인 상황뿐만 아니라 그간 고려 왕권의 기반이 되어 왔던 몽골 황제권과의 관계를 통해서는 더 이상 고려 국왕의 권위를 강조할 수 없는 상황이 되었다. 다시 말해 오히려 기씨 일가의 권위를 높이는 상황이 될 수밖에 없는 구조적인 문제를 내포하고 있었다. 이러한 상황에서 공민왕으로서는 왕권의 기반을 지금까지와는 다른 방식으로 재구축할 필요가 있었고, 그것은 ‘반원개혁’의 형태로 표출되었다.
원나라는 고려의 이러한 조처에 대해 힐책하고 군대를 보내겠다고 하면서도 압록강 서쪽 영토에 대한 공격의 책임자를 물어 관계 회복의 여지를 남겼다. 공민왕은 원나라의 공격을 담당한 서북면병마사 인당(印瑭)을 주살하여 일련의 책임을 그에게 돌리며 원나라와의 관계를 수습하고자 하였다.
이후 양국 관계가 회복되는 가운데에서도 몽골 황제권이 고려 국내 정치에 직접적으로 작용하였던 구조에는 변화가 발생하였다. 이러한 상황에서 이미 14세기 전반부터 원나라 각지에서 봉기한 한인 군벌 가운데 한 명이었던 주원장(朱元璋)이 세력을 키워 1368년 원나라의 수도인 대도를 점령하며 국호를 명(明)이라 하고 이른바 ‘원 · 명교체’를 선언하였다. 1270년(원종 11)에 고려는 신속하게 관계의 대상을 원에서 명으로 전환하였다.
명나라에 의해 대도를 점령당한 뒤 원나라 혜종 토곤테무르는 상도(上都)로 이동하여 정권을 지속하였다. 1370년(공민왕 19)에 원나라 혜종이 사망한 뒤에는 그의 황태자이자 기황후의 아들인 소종(昭宗) 아유르시리다라〔愛猷識里答臘]가 황제 자리를 계승하였다. 고려 공민왕이 시해된 후 명나라에서 우왕에 대한 책봉을 거부하면서 고려와 명나라의 관계가 경색되었을 때, 원나라에서 우왕을 책봉하며 관계 개선과 명나라에 대한 대응을 도모하기도 하였다. 소종 사후 그 동생인 토쿠스테무르〔脫古思帖木兒〕가 황제를 계승하였으나, 1388년 명나라와의 전투에서 패하고 도망하다가 피살되었다.
몽골과 고려의 관계는 국제 관계사의 관점에서 볼 때, ‘책봉-조공 질서’로 표현되는 기존 동아시아적 관계 요소뿐 아니라 통혼이나 케식 등을 통해 형성되는 지배 가문, 구성원 개인 간의 관계와 같은 몽골적 관계 요소를 포함한다는 점에서 특징적이다. 한국사의 관점에서도, 전쟁이 종식된 뒤 100년 이상 지속된 몽골과의 관계는 고려의 정치와 사회에 큰 영향을 미쳤다. 몽골 황제권은 고려의 정치구조의 한 부분을 구성하며 고려 왕권과 왕-신료 관계를 변화시켰고, 전쟁을 포함한 몽골과의 관계를 통해 고려의 우리 의식이 강화되어 단군을 기점으로 하는 역사 인식이 형성되었으며, 다양한 범주의 활발한 인적 물적 교류는 고려인들의 세계 인식을 확장시키기도 하였다.
몽골제국이 확대해 놓은 중국의 범위는 축소되기는 하였지만 이후 명나라에 의해 계승되었고, 몽골과 고려의 관계 속에서 구축된 국가 간의 의례적 질서는 이후 명나라와 고려 · 조선에도 승계되어 더욱 정비된다. 또한 몽골과의 관계 속에서 고려에 도입된 성리학을 포함하여, 확장된 세계 인식은 조선 초 제도와 문물을 정비하는 과정에 영향을 주었다.