가계와 출신지는 자세하지 않으며, 윤관(尹瓘)의 여진정벌 당시 크게 활약하였다.
1107년(예종 2) 12월 병마판관(兵馬判官) 황군상은 최홍정(崔弘正)과 더불어 정주(定州, 현재의 함경남도 정평)와 장주(長州, 현재의 함경남도 정평) 방면으로 나아가 여진 추장들을 유인하여 섬멸하는 임무를 부여받았다. 그때 황군상은 여진 추장들을 속여 말하기를 “국가에서 허정(許貞)과 나불(羅弗) 등을 돌려보내려고 하니, 너희들은 와서 명령을 들으라”고 하였다. 이후 여진 추장들이 이 말을 믿고 고라(古羅) 등 400여 명을 보내오자 황군상은 그들에게 술을 먹여 취하게 한 다음 복병을 출동시켜 섬멸하였다. 이후 1115년(예종 10) 정월에 황군상은 시랑(侍郞)으로서 상서(尙書) 이수(李壽)와 더불어 요나라에서 고려에 횡선사(橫宣使)를 보낸 것에 대하여 사례하기 위한 사신으로 파견되었다.