본관은 안동(安東). 자는 중정(仲靜). 할아버지는 신천군수 김생해(金生海)이고, 아버지는 도정 김극효(金克孝)이며, 우의정 김상용(金尙容)과 좌의정 김상헌(金尙憲)의 아우이다.
19세에 사마시에 합격하여 사옹원봉사·종부시주부·장례원사평(掌禮院司評)·한성부서윤·중추부경력(中樞府經歷)·군기시부정자(軍器寺副正字)·형조참의·돈녕부도정의 중앙관직을 지냈다.
그리고 배천현감·온양군수·대구부사·상주목사·경주부윤 등의 외직을 역임하면서 선정을 베풀어 명성을 떨쳤다. 관직은 부윤으로 그쳤는데, 성품이 강인하고 떳떳하였으며, 매사를 상세히 살펴서 이속들이 모두 두려워하였다. 부임하였던 여러 고을에 송덕비가 세워졌다.