본관은 흥덕(興德). 자는 경칙(敬則), 호는 무지와(無知窩). 세거지(世居地)는 남원(南原). 아버지는 동지중추부사 장석(張氵+奭)이며, 어머니는 함양박씨(咸陽朴氏)로 박진명(朴震明)의 딸이다. 어려서부터 효성과 우애가 있었으며, 재주가 뛰어났다.
1763년(영조 39) 증광무과(增廣武科)에 합격, 1767년에 선전관(宣傳官)에 임명되었으나, 권문세가의 출신 자제들이 세도를 부리는 것에 염증을 느껴 벼슬을 버리고 고향에 돌아갔다. 장사식은 고향에 돌아가 수신제가에 힘쓰는 한편, 유학경전과 병서(兵書)를 깊이 연구하였다.
그 후 1789년(정조 13) 훈련원첩정(訓鍊院僉正)에 임명되었고, 다시 충장위장(忠壯衛將) 등을 역임하였다. 진법(陣法)을 비롯하여 병기의 제작 및 군사훈련 방법 등에 관한 저술이 장사식의 문집 속에 들어있다. 또한 시에도 능하였다. 장사식의 문집으로 『무지와유고(無知窩遺稿)』 2권이 있다.