본관은 광산(光山). 자는 윤교(允敎). 김영수(金永壽)의 아들이다.
1874년(고종 11) 정시문과에 을과로 급제하여 홍문관교리·수찬, 우부승지를 거쳐 1885년 이조참의가 되었다.
1886년 성균관대사성 등을 거쳐 1890년 안동부사로 있을 때 경상남도 함창에서 현감의 탐학으로 인하여 민란이 일어나자 안핵사로 파견되었다.
1891년 다시 이조참의를 거쳐, 1894년 6월 갑오개혁을 추진한 김홍집내각(金弘集內閣)의 참의내무부사(參議內務府事)를 지냈으며, 같은 해 10월 의정부도헌(議政府都憲)이 되었다.
1896년 봉상시제조(奉常寺提調), 1897년 궁내부특진관, 1899년 비서원경, 1901년 사직서제조(社稷署提調)·시종원경 등을 거쳐, 1902년 장례원경·지돈녕원사(知敦寧院事), 1903년 경효전제조(景孝殿提調), 1904년 지돈녕원사를 지낸 뒤 1905년 궁내부특진관, 1907년 장례원경을 지냈다.