본관은 구례(求禮). 자는 무부(武夫), 호는 백야(栢冶). 할아버지는 군수 장사종(張嗣宗)이며, 아버지는 장근(張謹)이다.
1543년(중종 38) 무과에 급제한 뒤 부산진첨절제사·제주목사·만포진첨절제사를 지냈다. 종사관(從事官)으로 명나라에 다녀온 뒤 온성판관으로 변방의 경계를 엄중히 하였다. 1572년(선조 5) 함경도병마절도사로서 오랑캐의 침입을 막았고, 1573년 경상좌도병마절도사가 되었다.
무인이면서도 역학(易學)에 밝았고, 명종·선조대의 무인으로서는 가장 청렴결백하기로 이름이 났으며, 죽은 뒤 청백리에 녹선되었다. 병조판서에 추증되었으며, 영동의 화암서원(花巖書院), 무주의 죽계서원(竹溪書院)에 제향되었다. 저서로 『백야유사』가 있다. 시호는 양정(襄貞)이다.