본관은 창원(昌原). 자는 경지(敬之). 황입중(黃立中)의 증손으로, 할아버지는 황형(黃泂)이고, 아버지는 황신구(黃藎耉)이며, 어머니는 김취겸(金就兼)의 딸이다.
참봉으로 1680년(숙종 6) 별시문과에 을과로 급제한 이후 좌우참찬과 육조의 판서를 두루 역임하였다. 시장외제(試場外製)의 벌로 예조판서직에서 파면당하였고, 1713년(숙종 39)에는 한 해에 이조판서직에 임면되었다가 동시에 파면당하기도 하였다.
정사에 관여한 50여 년 동안 나름대로 소임을 다하여 3대(숙종·경종·영조)를 모셨다. 매사에 신중하였으며 청렴 검소하게 지냈으므로 헐뜯는 사람이 없었다.
1770년 임금이 대신들을 인견하는데 좌의정 송인명(宋寅明)이 아뢰기를, “청렴하고 신중한 사람을 택한다면 현재로는 이선현(李宣顯) 한 사람이고, 선조(先朝) 때 옛 신하 중에서 구한다면 판서 황흠이 엄정하면서도 화목하고 정사도 공정하고 예의를 준수하는 청렴결백한 신하였다.”고 하였다. 90세를 넘겼으나 조금도 흐트러짐이 없었고, 마지막 벼슬은 보국판돈녕(輔國判敦寧) 이조판서였다.