본관은 안동(安東). 자는 필형(必亨), 호는 죽취(竹醉). 동지중추부사 김광찬(金光燦)의 증손으로, 할아버지는 영의정 김수항(金壽恒)이고, 아버지는 영의정 김창집(金昌集)이며, 어머니는 박세남(朴世楠)의 딸이다. 작은아버지 김창흡(金昌翕)에게 수학하였다.
1705년 진사가 되고, 1710년 세마(洗馬)로 기용되었으며, 고양군수를 거쳐 사복시첨정(司僕寺僉正)으로 재직 중 1719년 증광 문과에 병과로 급제, 정언(正言)이 되었다.
그 뒤 헌납(獻納)·집의(執義)·응교(應敎)·교리(校理)·사간·예조참의·승지 등을 역임하였다. 1722년 아버지가 노론4대신의 한 사람으로서 소론의 김일경(金一鏡)·목호룡(睦虎龍) 등에 의해 사사되자 울산에 유배, 뒤에 부령(富寧)으로 이배되었다가 사형당하였다.
조성복(趙聖復)·김민택(金民澤)과 함께 신임사화 때 죽은 삼학사(三學士)의 한 사람으로 꼽힌다. 1725년(영조 1) 관작이 복구되고, 좌찬성에 추증되었다. 저서로 『죽취고(竹醉藁)』, 편서로는 『증보삼운통고(增補三韻通考)』가 있다. 시호는 충민(忠愍)이다.