본관은 안동(安東). 자는 중필(仲弼), 호는 삼송(三松). 첨지중추부사 김탄행(金坦行)의 증손으로, 할아버지는 참찬 김이도(金履度)이고, 아버지는 목사 김지순(金芝淳)이며, 어머니는 민종현(閔鍾懸)의 딸이다. 종숙인 김홍순(金鴻淳)에게 입양되었다. 영흥부원군(永興府院君) 김조근(金祖根)의 동생이다.
1837년(헌종 3) 판관(判官)으로 식년 문과에 병과로 급제하였다.
사복시정(司僕寺正)·대사성·부제학·직제학·경기도관찰사·이조참판을 거쳐, 형조판서·대사헌·예조판서·함경도관찰사·판의금부사·한성부판윤·공조판서·원접사·규장각제학·병조판서·좌참찬 등을 역임하였다. 고종이 즉위하고 대원군이 집권하여 안동김씨의 고관들이 모두 밀려남에 따라 물러났다가, 1864년(고종 2)에 다시 예문관제학·광주유수(廣州留守)가 되었다. 시호는 문헌(文憲)이다.