본관은 의성(義城). 초명은 진행(晉行). 초자는 퇴보(退甫), 자는 간부(艮夫), 호는 구사당(九思堂). 아버지는 교리 김성탁(金聖鐸), 어머니는 무안박씨(務安朴氏)로 통덕랑 박진상(朴震相)의 딸이다. 경상북도 안동 출신. 이재(李栽)의 문인으로 그는 『근사록(近思錄)』·『심경(心經)』 등에 조예가 깊었다.
1737년(영조 13)에 홍문관교리로 재직하던 아버지가 사도세자의 추존문제로 무고를 받고 있던 이재를 변호하다가 이해로(李海老)·신헌(申瀗) 등의 탄핵을 받아 제주도에 유배되자 아버지를 따라갔다. 그 뒤 아버지가 광양(光陽)에 이배되어 죽자 고향에 돌아가 장사지냈다.
효행이 지극하고 문장으로 이름이 났으며, 특히 제문에 뛰어나서 구제밀찰(九祭密札: 구사당(九思堂) 김낙행(金樂行)의 제문, 밀암(密庵) 이재(李栽)의 편지라는 뜻)의 미칭(美稱)이 전한다. 저서로는 『계몽질의(啓蒙質疑)』·『기법질의(耆法質疑)』·『상복경전주소통고(喪服經傳註疏通考)』·『강록간보고의(講錄刊補攷疑)』·『구사당집(九思堂集)』 등이 있다.