본관은 경주(慶州). 자는 용여(用汝), 호는 설재(雪齋). 김민효(金敏斅)의 증손으로, 할아버지는 김재현(金載顯)이고, 아버지는 신령현감(新寧縣監) 김윤호(金胤豪)이며, 어머니는 금성이씨로 돈녕부도정 이핵(李翮)의 딸이다.
1705년(숙종 31) 사마시에 합격하고, 1713년 증광 문과에 병과로 급제, 시강원설서·병조좌랑·사헌부지평·사간원정언·사헌부집의 등을 거쳐 경기도사·수원부사·충청도관찰사 등을 역임하였다.
1717년 사간원정언으로 있을 때 참언(讒言)을 물리치고 학문을 권장하며 인재를 널리 구할 것을 촉구하는 내용의 상소문을 지어 올렸다. 그리고 1723년(경종 3) 직언하다가 영암으로 유배되었는데 1725년(영조 1) 풀려나왔으며, 사헌부집의가 되어서도 왕에게 강력한 내용의 진언을 서슴지 않았다.
수원부사로 있을 때 흉년이 들어 기근이 심하였으므로 개인 재물을 털고, 나라에서 주는 봉급을 보류하여 굶주리는 백성들을 구제하는 등 선정을 베풀었다. 저서로는 『설재집(雪齋集)』 1권이 있다.