고려 성종 때 전국을 10도로 편성하는 과정에서 오늘의 서울·경기 일원을 관내도(關內道)라고 하였고, 관북이라는 명칭은 관내도의 북쪽에 위치한 땅이라는 데서 명명된 것으로 보고 있다. 또는 고려시대에 설치된 철령관이라는 관문의 북쪽지방이라는 유래도 있다. 철령관은 함경도로부터 서울로 들어오는 길목이어서 한강 유역을 지키는 한편 변방에 대한 통행을 제한하던 곳이었다. 이곳을 중심으로 동쪽을 관동, 서쪽을 관서, 북쪽을 관북이라 하였다.
동쪽으로는 동해안, 서쪽으로는 남북 방향으로 주향하는 낭림산맥, 남쪽으로는 추가령지구대의 북부 지역, 북쪽으로는 중국과의 국경선이 경계를 이룬다. 관북지방의 낭림산맥 동쪽에는 높이 1,000∼2,000m가 되는 개마고원이 발달하여 장기간의 침식·융기가 반복된 고위평탄면을 형성하고 있다. 이 개마고원은 마천령산맥을 경계로 함경남도의 북부와 양강도의 일부를 포함하는 양강고원(兩江高原)과 함경북도 일부와 양강도의 일부를 포함하는 백무고원(白茂高原)으로 양분하기도 한다.
더욱이 경계지점에 위치한 백두산은 예로부터 단군의 건국 설화와 관련되어 있으므로 우리 민족의 성산으로 신성시하고 있다. 그뿐만 아니라 백두산은 여러 차례에 걸쳐 화산활동을 일으켰던 관계로 그 주변은 40㎢의 범위에 걸쳐 현무암의 용암대지를 이룬다. 그리하여 예로부터 천리천평(千里千坪: 천리에 걸쳐 지대가 높고 평평한 땅)의 지대로 표현되었다.
국경의 사면에는 압록강과 두만강이 흘러 상류에 심곡을 형성하여 부전강(赴戰江)·장진강(長津江) 유역에 수력발전을 위한 인공호가 있다. 그러나 동해 사면의 하천, 즉 용흥강(龍興江)·성천강(城川江)·수성천(輸成川)을 따라서 평야가 발달되고 강어귀에 삼각주가 형성되고 있다. 기후는 고원과 동해안 저지 사이에 차가 크다.
그리하여 고원상에는 해발고도와 산지의 폐쇄성으로 겨울에 춥고 여름에 서늘하며 강수량이 적은 것이 특색이다. 즉 이 지역은 우리나라의 최한지대(最寒地帶)이며 고랭지이다. 이에 반하여, 동해안은 배후 산지가 북서계절풍을 막아줌으로써 덜 춥고, 해안선이 길기 때문에 남북의 차가 크다.
이 지방은 산지가 대부분이고 철·석탄·마그네사이트 등의 지하자원과 동해안에서의 정어리·고등어·명태·오징어 등 수산자원이 풍부하다. 또한 급사면을 이용하여 수력전기를 얻어서 근대적 공업이 발달하였다.
관북지방은 본래 고구려 땅이었으나 고구려의 멸망과 더불어 동여진(東女眞)의 세력권에 들어갔다. 북진정책을 내세운 고려조에 들어와 국토를 10도로 편성할 때에 강릉을 통치중심지로 하는 삭방도(朔方道)에 예속시켰다. 정종 때에는 동계(東界)라고 칭했고, 서계(西界)와 함께 영토의 변방인 양계(兩界)로 삼았다. 그 뒤 공양왕 때에 이르러 강릉의 통치 구역에서 분리하여 독립된 통치 구역을 확보하였다.
이러한 전통은 두만강 유역까지 영토를 확장한 조선 태조 때 굳혀져, 1413년(태종 13)에는 통치중심지인 영흥과 길주의 지명을 함축한 영길도(永吉道)라고 칭하였다. 그 뒤 통치중심지는 함주(咸州, 함흥)에 두었으나 다시 영흥으로 옮겼고, 1509년(중종 4) 함흥에 관찰사를 둠으로써 함흥이 함경도의 통치중심지가 되었다. 함경도라는 이름은 함흥(咸興)과 경성(鏡城)의 머릿글자에서 따온 것이다.
1896년(건양 1)에 13도제가 실시됨에 따라 함경도는 함경남도와 함경북도로 분리되었다. 함경남도의 행정중심지는 함흥이 되었으며, 함경북도의 행정중심지는 청진이 되었다. 한국전쟁 중 북한에서는 행정구역 개편이 이루어졌는데, 이 과정에서 백두산 주변지역은 압록강과 두만강의 두 물줄기가 함께 있다는 의미로 양강도(兩江道)가 되었다. 따라서 현재의 관북지방은 함경남도, 함경북도, 양강도로 구성된다고 할 수 있다. 1990년대 초 두만강 지역개발 계획의 일환으로 라진-선봉 경제무역지대가 설치되면서, 라진-선봉은 라선으로 지명이 변경되었고 2010년에 라선특별시가 되었다.
문화적 특징으로 낭림산맥이 관북과 관서지방의 구분 경계선이 되고 있을 뿐 아니라, 함경도와 평안도의 방언 구분과 관북형·관서형의 가옥 구조 구분의 경계가 되고 있다. 따라서, 낭림산맥 동쪽의 관북 지방은 사회적·문화적 공동체를 형성함으로써 언어의 동질성을 형성한다.
복합 문화의 한 유형으로서의 가옥 구조는 방이 복렬로 배치된 폐쇄적인 데에 특색이 있다. 이것은 추운 겨울을 지내기 위하여 생겨난 것으로, ‘전(田)’자 모양의 온돌 배치가 이루어진 것 위에 정주간을 통하여 거주 공간은 물론이고 외양간과 같은 부속 시설까지 연결하고 있는 것이 특징이다.
한편, 관북 지방은 고원과 산지가 많아서 이것의 이용과 관련된 화전 농업 문화의 발원지이기도 하다. 은둔 생활을 하는 재가승(在家僧) 발생의 근원을 가지고 있는 화전농업은 개마고원에 집중 분포하여 농업 양식과 거주 양식에 특이한 면을 지니고 있다.
이 지방의 중심 도시는 청진·성진·길주·회령·아오지·고무산·천내·흥남·함흥 등이다. 2009년 기준으로 함경남도에는 3개시 15개군에 35개 노동자구가 있으며, 함경북도에는 3개시 12개군에 44개 노동자구가 설치되어 있고, 양강도에는 1개시 11개군에 67개의 노동자구가 설치되어 있다. 양강도는 북한에서 인구 규모가 가장 작은 도에 해당한다.