본관은 풍산(豊山). 자는 치상(稚常), 호는 동소(桐巢). 경상도 영천(榮川: 지금의 榮州) 출신. 김종봉(金宗鳳)의 아들이다.
1835년(헌종 1) 증광문과에 을과로 급제하였다. 이듬해 성균관전적·사간원정언, 1837년 사헌부지평, 1852년(철종 3) 홍문관교리, 1853년 통정부호군 겸 오위장과 돈녕부도정, 1855년 형조참의 등에 임명되었다.
그러나 벼슬을 원하지 않아 모두 사양하고 한 번도 관직에 나가지 않았다. 다만 헌종이 죽었을 때 곡반(哭班: 국상 때에 곡하는 벼슬아치의 반열)에 참여하기 위하여 한 번 조정에 나갔을 뿐이다. 세상사람들로부터 남주(南州)에서 인격이 가장 고결한 선비로 꼽혔다고 한다.