본관은 연안(延安). 자는 경유(景由), 호는 설암(雪嵒). 김상석(金相奭)의 증손으로, 할아버지는 영의정 김익(金熤)이며, 아버지는 김재련(金載璉)이며, 어머니는 이득배(李得培)의 딸이다.
음보(蔭補)로 배천군수를 지내고 1823년(순조 23)에 정시 문과에 병과로 급제하였다.
이듬해 평안도암행어사로 지방을 순찰하여 민정을 시찰하고 탐관오리를 징계하였다. 1825년 동지경연사를 지내고, 이듬해 병조판서·판의금부사·호조판서 등을 역임하였다. 1835년(헌종 1)에 사은사로 청나라에 다녀왔으며, 이듬해 대사헌이 되었다.
평소에 사치를 좋아하지 않아 벼슬이 판서에까지 이르렀는데도 검소와 근면으로써 자제들을 엄하게 가르쳤다. 익종의 묘정(廟庭)에 배향하였다. 시호는 문헌(文獻)이다.