본관은 흥덕(興德). 자는 호이(浩而), 호는 낙와(樂窩). 할아버지는 진사(進士) 장업이며 아버지는 장우익(張宇翼), 어머니는 선산김씨로 김설(金薛)의 딸이다.
어릴 때부터 효성이 지극하고 재질이 뛰어났으며 한때는 문학에 뜻을 두고 공부하려고 하였으나 집이 워낙 가난하여 포기하고 고모부인 통제사 이석관(李碩寬)을 따라다니며 궁술(弓術)과 마술(馬術)을 배워 1714년(숙종 40) 무과에 급제하고, 1717년 선전관(宣傳官)이 되었다.
그 뒤 벌업등진만호(伐登鎭萬戶)·가리진수군첨절제사(加里鎭水軍僉節制使)를 거쳐, 훈련도감파총(訓鍊都監把摠)으로서 1728년 (영조 4) 이인좌(李麟佐)의 난 때 궁성의 경비에 충실하여 큰 공을 세워 공신으로 책봉되었다.
1730년에는 송내성(宋來成)의 무고에 휘말려 문화현(文化縣)에 유배되었다가 1732년에 풀려났으며, 1736년 함흥부원군(咸興府院君)어유구(魚有龜)가 훈련도감에 있으면서 초관(哨官)으로 추천하였으나 부임하지 않았다.
1756년 인원왕후(仁元王后)의 칠순경축기념 때 첨지중추부사에 오르고, 1763년 영조가 기로소(耆老所)에 들어간 것을 계기로 동지중추부사가 되었다.