본관은 덕수(德水). 자는 숙함(叔涵), 호는 난고(蘭皐). 아버지는 평안도관찰사 장신(張紳)이다.
일찍이 당쟁의 와중에서 관계 진출을 단념하고, 장유(張維)에게 나아가 경사(經史)의 연구에만 힘썼다.
숙종 때에 박세채(朴世采)·민정중(閔鼎重) 등의 잦은 천거를 받아 1682(숙종 8) 음관으로 호조참의에 임명되었으나, 그 자신이 벼슬을 좋아하지 않아 곧 사직하였다. 곧 승지에 임명되었으나 역시 사직하고, 다음해에 또다시 승지에 임명되어 일시 관직에 나갔다.
1685년 그가 어떤 사건에 연루되자 그를 천거하였던 지중추부사 민정중이 대간의 탄핵을 받기도 하였다.