본관은 연안(延安). 자는 택지(澤之). 개성부유수 김상원(金相元)의 증손으로, 할아버지는 김섭(金燮)이고, 아버지는 현감 김익균(金翼均)이며, 어머니는 이준(李浚)의 딸이다.
어려서부터 총명하여 하나를 들으면 열을 이해하였다. 1794년(정조 18)에 유학으로 알성 문과에 병과로 급제하여, 전적(典籍)·예조좌랑 등을 거쳐 1806년(순조 6)에 대사간을 지냈으며, 그 뒤 강화유수와 개성유수 등을 거쳐 형조판서와 한성부판윤을 지냈다. 평생동안 근신으로 몸을 지키고 자녀들에게는 ‘효우(孝友)가 인생의 길’이라고 가르쳤다. 시호는 효헌(孝憲)이다.