본관은 의성(義城). 초명은 진행(晉行). 초자는 퇴보(退甫), 자는 간부(艮夫), 호는 구사당(九思堂). 아버지는 교리 김성탁(金聖鐸), 어머니는 무안박씨(務安朴氏)로 통덕랑 박진상(朴震相)의 딸이다. 경상북도 안동 출신. 이재(李栽)의 문인으로 그는 『근사록(近思錄)』 · 『심경(心經)』 등에 조예가 깊었다.
1737년(영조 13)에 홍문관교리로 재직하던 아버지가 사도세자의 추존문제로 무고를 받고 있던 이재를 변호하다가 이해로(李海老) · 신헌(申瀗) 등의 탄핵을 받아 제주도에 유배되자 아버지를 따라갔다. 그 뒤 아버지가 광양(光陽)에 이배되어 죽자 고향에 돌아가 장사지냈다.
효행이 지극하고 문장으로 이름이 났으며, 특히 제문에 뛰어나서 구제밀찰(九祭密札: 구사당(九思堂) 김낙행(金樂行)의 제문, 밀암(密庵) 이재(李栽)의 편지라는 뜻)의 미칭(美稱)이 전한다. 저서로는 『계몽질의(啓蒙質疑)』 · 『기법질의(耆法質疑)』 · 『상복경전주소통고(喪服經傳註疏通考)』 · 『강록간보고의(講錄刊補攷疑)』 · 주1 등이 있다.