본관은 청풍(淸風). 자는 여량(汝兩). 아버지는 현종의 국구(國舅)인 청풍부원군 김우명(金佑明)이며, 명성왕후(明聖王后)의 동생이다.
23세 때 빙고별검(氷庫別檢)에 임명되었으며, 이후 여러 관직을 거쳤다.
1680년(숙종 6)에 인평대군(麟坪大君)의 아들 복창군(福昌君)과 복선군(福善君), 그리고 허적(許積)의 서자 허견(許堅) 등이 역모를 꾀하였다 하여 복선군과 허견 등은 주살되고 복창군과 허적 등은 사사(賜死)되었는데, 이 때 공을 세웠다 하여 가자(加資: 관직이나 품계를 올리거나 더함)되었다.
1683년에 한성우윤이 되었으며, 이듬해에 개성유수를 거쳐 총융사(總戎使)가 되었다. 1686년 한성좌윤으로 있을 때 죽었다.