본관은 안동(安東). 자는 자공(子公), 호는 백곡(柏谷). 아버지는 경상도관찰사를 지낸 김치(金緻)이며, 어머니는 사천 목씨(泗川睦氏)로 목첨(睦詹)의 딸이고, 부인은 경주 김씨이다.
어릴 때 천연두를 앓아 노둔한 편이었으나, 아버지의 가르침과 훈도를 받아 서서히 문명을 떨친 인물이다. 당시 한문사대가인 이식(李植)으로부터 “그대의 시문이 당금의 제일”이라는 평을 들음으로써 이름이 세상에 알려지게 되었다.
공부할 때에 옛 선현과 문인들이 남겨놓은 글들을 많이 읽는 데 주력하였는데, 그 중 「백이전(伯夷傳)」은 1억 1만 8천 번(1억 번은 현재의 10만 번에 해당)이나 읽었다고 하여 자기의 서재를 ‘억만재(億萬齋)’라 이름 하였다. 저술이 병자호란 때 많이 타 없어졌으나, 문집인 『백곡집』에는 많은 시문이 전하고 있다.
그 중 시가 반 이상을 차지하고 있는 것으로 보아 그가 문보다는 시에 능했음을 알 수 있다. 특히, 오언·칠언절구를 잘 지었다. 「용호(龍湖)」·「구정(龜亭)」·「전가(田家)」 등은 어촌이나 산촌과 농가의 정경을 그림같이 묘사하고 있는 작품들이다.
시를 잘 지었을 뿐만 아니라 시를 보는 안목도 높아, 『종남총지(終南叢志)』 같은 시화도 남겼다. 이에는 어무적(魚無迹)·이행(李荇)·정사룡(鄭士龍)·정철(鄭澈)·권필(權韠) 같은 앞 세대 유명시인 등과 남용익(南龍翼)·김석주(金錫胄)·홍만종(洪萬宗) 같은 당대 문사들의 시를 뽑아, 거기에 자기 나름대로의 비평을 덧붙였다.
그리고 그는 술과 부채를 의인화한 가전소설 「환백장군전(歡伯將軍傳)」과 「청풍선생전(淸風先生傳)」을 남기기도 했다.