본관은 의성(義城). 자는 덕수(德錘), 호는 겸와(謙窩) 또는 청사(晴蓑). 아버지는 김종수(金宗壽)이다.
1850년(철종 1) 증광문과에 병과로 급제, 1853년(철종 4)홍문관교리로 있을 때 이조판서서기순(徐箕淳)의 비행을 탄핵하다가 수찬남종순(南鍾順)에게 몰려 한때 명천(明川)으로 유배되었다. 1856년(철종 7)문과중시에 다시 급제하였다.
1864년(고종 1)에는 시정의 폐단을 상소하였는데, 조대비(趙大妃)의 비위에 거슬린 구절이 있어 전라도 고금도(古今島)에 유배되었다.
명천에 유배되었다가 다시 방면되어 귀환하는 왕복의 기록을 담은 것으로 「북천록(北遷錄)」이라는 한문일기와 가사 「북천가(北遷歌)」가 전한다. 유고를 모은 미간행본 『청사유고』를 그의 5세손인 김태현(金台鉉)이 소장하고 있다.