진흥왕순수비는 이 외에도 북한산비(北漢山碑) · 창녕비(昌寧碑) · 마운령비(磨雲嶺碑) 등이 있다. 이 비는 진흥왕순수비 가운데 가장 먼저 알려졌으며, 19세기 초 김정희(金正喜)가 본격적으로 연구하기 시작하였다.
위 부분과 왼쪽 아래 부분이 일부 마멸되었는데(광복 후 마멸된 부분이 발견되었다고 함), 현재 남아 있는 비는 높이 92.4㎝, 너비 45㎝, 두께 20㎝이다. 비문은 모두 12행이고 행마다 35자가 해서체(楷書體)로 새겨져 있다. 내용은 같은 시기에 세워진 마운령비와 거의 일치하는데, 유교적인 왕도정치(王道政治)를 지향하려는 의지가 잘 나타나 있다.
그 밖에 역수(曆數)의 관념을 비롯해 건호(建號) · 짐(朕) · 순수(巡狩) 등의 용어를 사용한 것에서 제왕(帝王)으로서의 자부심이 나타나 있다. 또한 진흥왕의 변경 지역 순수에 수행된 신료(臣僚)들의 이름과 관등 · 관직은 신라의 정치 제도와 인물 연구에 많은 참고가 되고 있다.
이 비는 현재의 함경남도 함주군 하기천면 진흥리에서 발견되었는데, 1852년(철종 3)에 당시 함경도관찰사 윤정현(尹定鉉)이 비를 보호하기 위해 황초령 정상의 원 위치에서 고개 남쪽인 중령진(中嶺鎭) 부근, 즉 하기천면 진흥리로 옮겨 비각(碑閣)을 세운 것이다. 현재는 북한의 함흥역사박물관에 보관되어 있다.
일제강점기에 일본 학자들은 이 비와 마운령비가 실제로 신라의 동북 경계를 의미하는 것이 아니라고 주장한 적이 있다. 즉, 신라 때의 동북 경계를 안변의 남대천(南大川) 유역으로 보고, 어쩌면 황초령비는 그 부근인 철령쯤에 세웠을 터인데 고려 예종 때 윤관(尹瓘)이 함흥평야의 여진족을 정복한 뒤 9성(城)을 쌓을 때 그 점령을 역사적으로 뒷받침하기 위해 철령에 있던 비석을 함흥평야의 북쪽 경계 요충지에 해당하는 황초령으로 옮겼다고 주장하였다.
또 고려 고종 때의 승려인 천인(天因)이 지은 「고석정기(孤石亭記)」에 진흥왕의 한 비석이 철원 남쪽 30리쯤 되는 고석정 부근에 있다고 한 기록을 들어, 황초령비는 바로 고석정에 있던 비석을 조선 초기에 옮겨 놓은 것이라고도 주장하였다. 이처럼 황초령비와 마운령비는 위치 문제를 둘러싸고 많은 논란이 있는 것이 사실이지만, 처음부터 황초령에 있었다고 보는 것이 옳은 듯하다.