본관은 청풍(淸風). 자는 여백(汝伯). 아버지는 영돈녕부사(領敦寧府事) 김우명(金佑明)이며, 현종비 명성왕후(明聖王后)의 동생이다.
1680년(숙종 6)에 음보로 관직에 나아가 예빈시정(禮賓寺正) · 전설(典說) · 별검(別檢)을 역임하였다.
1689년 기사환국으로 관직에서 추방당하였다가 1694년 갑술옥사로 다시 기용되어 1697년 공조참판이 되었다. 한성부우윤을 거쳐 1700년에 강화유수, 1704년에 주1, 1709년에 형조판서 등을 역임하였다. 승록대부에 추증되었고, 시호는 주2