본관은 청풍(淸風). 자는 경소(景韶). 아버지는 형조판서 김원식(金元植)이며, 김유행(金裕行)의 동생이다.
1876년(고종 13) 식년 문과에 병과로 급제하였다. 1877년 정언(正言)이 되었고 1879년에는 홍문관부교리(弘文館副校理)가 되었다. 1890년에는 수재(水災)를 심하게 입은 함경도 영흥부사(永興府使)로 가서 위유사(慰諭使)의 임무를 수행하였다. 1892년에는 성균관대사성에 올랐으며, 1894년에는 이조참의가 되었다가 곧 예조참판에 임명되었다.
1896년에는 개편된 지방관제에 따라 함흥부관찰사에 임명되었으며, 이듬해에 중추원 1등의관이 되고 칙임관 4등에 올랐다.
1899년에는 종2품 궁내부특진관에 임명됨과 동시에 칙임관 4등을 받았다. 1907년 8월에는 다시 궁내부특진관·칙임관 3등에 올랐으며, 1910년 8월에는 규장각전제관(奎章閣典製官)에 있으면서 훈3등(勳三等)을 받기도 하였다.