본관은 안동(安東). 증조부는 김명순(金明淳)이며, 할아버지는 김응근(金應根), 아버지는 영의정을 지낸 김병시(金炳始)이다.
1891년(고종 28) 정시별시문과에 병과로 급제한 뒤 관직에 올랐다. 1894년 홍문관교리(弘文館校理)가 되었고, 1897년에는 5품에서 3품으로 전격적으로 승격되어 비서원승(秘書院丞)에 임명되었다.
1907년에는 종2품 궁내부특진관이 되었으며, 동시에 칙임관(勅任官) 3등에 올랐다. 그 해 4월에는 봉상사제조(奉常司提調)가 되었고, 이어서 장례원부경(掌禮院副卿)이 되었다.