본관은 제주(濟州). 교동의 향리로서 무과에 급제하였고, 군관(軍官) · 변장(邊將)을 역임하였다.
임진왜란이 일어나자 영원군수(寧遠郡守)로서 대동강 등지에서 적을 맞아 싸우다가 패배하고, 계속 분전하여 그 해 9월 왜병을 산간으로 유인, 지형을 이용하여 62명의 목을 베었다.
그 이듬해 양주에서 왜병 42명을 참살, 그 공으로 왕은 특별히 당상관으로 올리고 양주목사로 삼아 능침(陵寢)을 보호하도록 하였다.
양주에서는 장사를 모집하여 산속 험준한 곳에 진을 치고 복병하였다가 왜병을 공격하여 전과를 크게 올렸다. 태릉이 한때 왜군의 침범을 받았으나 고언백의 수비로 여러 능이 잘 보호될 수 있었다. 이에 왕이 공을 칭찬하고 관급을 더 올려 경기도방어사에 영전시키고 이를 표창하였다.
또, 내원한 명나라 군사를 도와 서울 탈환에 공을 세우고 경상좌도병마절도사로 승진하였으며, 정유재란 때는 경기도방어사가 되어 전공을 크게 세웠고, 난이 수습된 뒤 선무공신(宣武功臣) 3등에 책록되고 제흥군(濟興君)에 봉하여졌다. 1608년 광해군이 왕위에 올라 임해군(臨海君)을 제거할 때, 임해군의 심복이라 하여 살해되었다.