본관은 의성(義城). 자는 천휴(天休), 호는 금옹(錦翁). 김윤(金淪)의 증손으로, 할아버지는 김시경(金是㯳)이고, 아버지는 김암(金黯)이며, 어머니는 이의준(李義遵)의 딸이다.
김시온(金是榲)의 문인으로 1651년(효종 2) 사마시에 합격하였으며, 예학에 조예가 깊은 송준길(宋浚吉)이 유학을 강론할 때 이를 듣고 명쾌한 견식을 펴서 송준길의 칭찬을 크게 받은 바 있다.
1663년(현종 4) 식년 문과에 병과로 급제하고 벼슬이 예조좌랑에까지 이르렀다. 1668년 성균관 안에 경서교정청(經書校正廳)이 새로 설치되자 이단하(李端夏)·김만중(金萬重)·박신(朴紳)·홍도(洪覩) 등과 함께 교정관에 임명되기도 하였다. 저서로는 『금옹문집(錦翁文集)』이 있다.