본관은 순천(順天). 자는 건중(建中), 호는 오애(浯涯). 증 영의정 김여물(金汝岉)의 증손으로, 할아버지는 영의정 김류(金瑬)이고, 아버지는 한성부판윤 김경징(金慶徵)이며, 어머니는 박효성(朴孝誠)의 딸이다.
1633년(인조 11) 사마시에 장원으로 합격하여 진사가 되었다. 1636년 병자호란 때 아버지인 김경징(金慶徵) 강도검찰사(江都檢察使)로서 방어 실패의 책임으로 사형당하고, 어머니와 할머니 유씨는 정절을 위해 자결하는 비운을 겪었다.
1651년(효종 2) 빙고별검(氷庫別檢)과 장악원주부(掌樂院主簿) 등을 지내고, 1653년에 공조좌랑에 임명되었다. 그해 별시 문과에 장원으로 급제하고, 1654년 청풍군수로 나갔다. 이듬해 조정에서는 충청도 여러 고을에 화약을 만들어 바치게 함으로써 그 기술을 숙달시키려 하였다.
그러나 그것을 매입하여 바쳤다가 감사에게 적발되어 중도부처(中道付處: 죄가 가벼운 경우 귀양가는 도중에 자신이 원하는 장소 내에서의 형벌생활)되었다. 1656년 공조참의에 임명된 뒤, 무송·삼척·부평 등의 수령을 지냈고, 1671년(현종 12) 돈녕부도정에 임명되었다가 곧 병으로 죽었다.
권세가의 가문에서 태어났으나, 학문을 좋아하여 깊이 작심하였고 부귀를 탐하지 않았다. 약간의 시문집을 남겼으나 전하지 않는다.