평안북도의 대부분은 1,000∼1,500m의 산지로서, 2,000m 내외의 산봉들로 된 낭림산맥 주능선에 연속된 고원 또는 준평원이 융기된 뒤 개석된 지대로 지질학적으로는 평북지괴이다.
또 낭림산맥 동쪽 개마고원은 1,000∼2,000m의 산지이고, 2,000∼2,500m의 산봉우리를 점철시킨 함경산맥이 있는데, 이는 원래준평원이 융기된 뒤 개석된 지대로 지질학적으로는 지괴이다. 평북고원에는 북동∼남서 방향으로 흐르는 압록강과 평행하게 달리는 강남산맥·적유령산맥·묘향산맥이 차례로 있다.
또한 낭림산(2,014m)에서 서쪽으로 갑현령·적유령(969m)·구현령·각대봉(1,164m)·동림산(1,165m)·양령·천마산(1,169m)·구성·선천을 잇는 능선이 있다.
능선 북쪽의 하천들은 대부분 압록강으로 흘러들고 남쪽의 하천들은 청천강으로 흘러든다. 이런 점에서 평북고원은 다른 지역과 하계 및 유량이 다르고 지형적으로 특이하다.
개마고원에서도 낭림산맥에서 동쪽으로 이어진 황초령(1,200m)·부전령(1,445m)·검덕산(1,684m)·두류산(2,309m) 등의 분수령 북쪽의 하계는 압록강으로 흘러들고, 설령봉(1,836m)에서 동북쪽으로 이어지는 관모봉(2,171m)·고성산(1,756m)·무산령(606m)과 송진산(1,146m)의 분수령 북쪽의 하계는 두만강으로 흘러들어 평북고원과 그 성질이 같다.
즉, 평북·개마 고원은 지질시대를 통하여 흐르던 압록강과 두만강의 지배를 받아온 지역이다. 평북·개마 고원 남쪽의 하계는 동해가 열린 뒤에 평북·개마 고원을 깎아서, 고원의 북쪽으로 흐르던 하천의 상류를 쟁탈·탈취하여 고원의 면적을 좁히고 있다. 제3기 초 개마고원의 원형이 만들어졌을 때에는 평안북도와 함경도 전체가 북류하는 하계를 가졌을 것이며, 제3기 중에 동해로 흘러드는 하계가 생겼다.
그러나 그 분수령은 대체로 낭림산맥의 남단부에 있는 향로봉(1,747m)·팔봉산(1,681m)·영덕산(1,488m)·길주·명천·청진을 연결하는 선으로 현재 분수령보다 남쪽에 있었을 것이다. 이 고원은 신생대 제3기에 약간 침강하여 명천층군이 쌓였으며, 이후 제3기 말부터 다시 융기하여 개석되어 고원의 경계가 북쪽으로 이동하였다.
동아시아 지질의 영향을 받는 한반도는 지괴(안정내륙)와 지향사(퇴적분지)가 반복되는 경향을 보여주며 아시아 대륙성장의 극성이 퇴적분지의 발전과 화성활동의 시대적인 발생과정에도 반영되고 있다. 북단의 평북 육괴와 함북 육괴는 중한지괴의 일원인 요동지괴와 일체이며 그 사이에 마천령지향사가 위치한다.
암석지질은 선캄브리아기의 낭림화강암과 반상변정질화강암과 화강암질 편마암 및 낭림층군으리 편마암 등으로 이루어진 기저변성암복합체로 되어 있고, 이를 관입한 중생대의 쥐라기와 백악기의 화강암류가 곳곳에 분포한다. 평안북도 중남부에는 트라이아스기 화강암이 있고, 함경북도 북동부에는 페름기 화강암이 분포한다.
마천령산맥과 그 주변에는 마천령층군에 속하는 변성퇴적암과 제3기에 분출한 화산암류가 있으며, 이를 덮는 현무암류가 넓게 분포한다. 이 지괴는 중생대 말에 화강암이 관입한 이후 몇 ㎞ 이상 계속 상승, 그 위의 지층이 삭박되어 심성암체가 넓게 노출되어 있다.