본관은 경주(慶州). 자는 이현(而見). 충청도 홍성 출신. 관찰사 김홍욱(金弘郁)의 증손으로, 할아버지는 김세진(金世珍)이고, 아버지는 김두정(金斗井)이며, 어머니는 유헌(兪櫶)의 딸이다.
진사가 되어 성균관유생으로 있다가, 1718년(숙종 44) 정시 문과에 병과로 급제하였다.
설서(說書)를 거쳐 1720년(경종 즉위년) 정언(正言)이 되었다. 이때 너무 관인하여, 왕으로부터 국론에 대한 올바르고 명확한 판단을 내리기에 부족하다는 지적을 받았다. 영조가 즉위한 뒤 문학·지평(持平)·수찬(修撰)·교리(郊理) 등을 지내면서 소론의 처결과 노론 4대신(四大臣) 복작(復爵: 관작의 회복)에 앞장서기도 하였다.
북평사(北評事)를 거쳐 시독관으로 육진(六鎭)의 병폐를 정리하는 소를 올려 시행하도록 하였다. 1727년(영조 3) 정미환국으로 물러났다가, 다시 1731년 승지에 이어 대사간·이조참의·승지·개성부유수를 역임하였다. 1738년 진하 겸 사은부사로 청나라에 다녀왔다. 성품은 매우 침착, 관인하였으며, 의리와 처세에 항상 조심하였다. 이조판서에 추증되었다.