본관은 청풍(淸風). 자는 여백(汝伯). 아버지는 영돈녕부사(領敦寧府事) 김우명(金佑明)이며, 현종비 명성왕후(明聖王后)의 동생이다.
1680년(숙종 6)에 음보로 관직에 나아가 예빈시정(禮賓寺正)·전설(典說)·별검(別檢)을 역임하였다.
1689년 기사환국으로 관직에서 추방당하였다가 1694년 갑술옥사로 다시 기용되어 1697년 공조참판이 되었다. 한성부우윤을 거쳐 1700년에 강화유수, 1704년에 어영대장, 1709년에 형조판서 등을 역임하였다. 승록대부에 추증되었고, 시호는 정희(貞僖)이다.