본관은 안동(安東). 초명은 낙순(洛淳). 자는 사원(士源), 호는 풍고(楓皐). 영의정 김창집(金昌集)의 4대손이며, 할아버지는 金달행(達行)이고, 아버지는 부사 김이중(金履中)이며, 어머니는 신사적(申思迪)의 딸이다. 순조의 장인이다.
1785년(정조 9) 약관에 정시 문과에 병과로 급제, 검열(檢閱)이 되고 초계문신(抄啓文臣)으로 발탁되어 강원도·황해도·함경도 지방의 수령·찰방 중에 겸사(兼史) 1명을 두어 그 지방의 민요와 풍속을 채록해 시정기(時政記)에 수록하자는 의견을 건의, 실시하였다.
1788년 규장각의 대교(待敎) 때 당시 시·벽파(時僻派) 싸움에 중립을 지키며 당쟁을 단호히 없앨 것을 주장하였다. 1789년 동지 겸 사은사의 서장관으로 청나라에 다녀왔고, 이어 이조참의·검교(檢校)·직각(直閣)을 거쳐 1800년 보덕(輔德)에 제수되었다.
순조 즉위 후 부제학(副提學)·행호군(行護軍)·병조판서·이조판서·선혜청제조(宣惠廳提調) 등 여러 요직이 제수되었으나 항상 조심하는 태도로 사양하였다. 1802년 양관 대제학 등을 거쳐 딸이 순조의 비(純元王后)가 되자 영돈녕부사(領敦寧府使)로 영안부원군(永安府院君)에 봉해지고, 이어 훈련대장·호위대장 등을 역임하였다. 또한, 선혜청제조로 있을 때 수효가 적은 친위병을 철폐된 장용영(壯勇營)의 군사로 충당하도록 하였다.
1814년 금위대장, 1826년 양관 대제학이 되고, 1827년 왕의 관서 지방 목욕 행차를 호종했다가 서하(西下) 지방의 민간 실정을 은밀하게 보고해, 경외(京外) 각 아문의 절미(折米)·형정(刑政)·인사(人事)·대동미 등 어려운 실정을 정리하게 하였다. 그 뒤 실권있는 직책은 맡지 않고, 제조직과 영돈녕부사로 있다가 죽었다.
어릴 때부터 기량과 식견이 뛰어났으며 성격이 곧고 밝아서 정조의 사랑을 받았다. 왕세자의 보도(輔導: 보필하여 인도함)를 맡았고, 국구(國舅: 왕의 장인)가 된 뒤로는 왕을 보필해 군덕(君德)을 함양시키는 일에 진력하였다. 그러나 요직이 제수될 때마다 사양하는 것으로 보아 권세를 누리기 위해 노력한 인물은 아니었음을 알 수 있다.
시벽의 당파나 세도의 풍을 형성하지 않으려고 노력했음에도 불구하고, 그를 둘러싼 척족 세력들이 후일 안동 김씨 세도정치의 기반을 조성하는 결과를 초래하였다.
문장이 뛰어나 초계문신이 되었고, 비명·지문·시책문·옥책문 등 많은 저술을 남겼으며 죽화(竹畵)도 잘 그렸다. 저서로 『풍고집(楓皐集)』이 있다. 정조의 묘정에 배향되었으며, 양주의 석실서원(石室書院), 여주의 현암서원(玄巖書院)에 제향되었다. 시호는 충문(忠文)이다.