본관은 청풍(淸風). 자는 경건(景健). 아버지는 형조판서를 지낸 김원식(金元植)이다. 고종·순종 때 예조참판 및 함흥부관찰사·궁내부특진관을 지낸 김유성(金裕成)의 형이다.
1867년(고종 4) 식년 문과에 을과로 급제하여 홍문관부수찬(弘文館副修撰)에 올랐다. 그 해 7월에는 수찬이 되었고, 1869년에는 부응교(副應敎)가 되었다. 1871년에 잠시 사간(司諫)이 되었다가 홍문관에 다시 복직하였다. 이듬해에 응교가 되었고, 1874년에는 선교관(宣敎官)이 되었다.
1881년에는 대사간에 임명되었으며, 그 뒤 여러번 대사간을 지냈다. 1887년에는 대사성에 나아갔으며, 이듬해에 다시 대사간이 되었다. 1888년에는 협판내무부사(協辦內務府事)로 잠시 있다가 대사간에 복직되었다. 같은 해 12월에는 이조참의가 되었다.