본관은 덕수(德水). 자는 자안(子安), 호는 동암(東菴). 아버지는 장호(張浩)이다.
1898년 8월 이종일(李鍾一) · 유영석(柳永錫) 등과 함께 『제국신문(帝國新聞)』 창간, 보급에 참여하였다.
1906년 6월 오세창(吳世昌) · 이인직(李人稙) · 권동진(權東鎭) 등과 같이 천도교의 기관지인 『만세보(萬歲報)』를 창간, 민족혼을 일깨웠다. 1909년 6월 대한자강회(大韓自强會)의 후신인 대한협회(大韓協會)의 기관지 『대한협회회보(大韓協會會報)』를 발행, 애국계몽운동을 펼쳤다.
1910년 국권상실 이후 천도교 직영의 보성사(普成社)에 입사하여 서기, 총무를 역임하였다. 이 때 이종일과 같이 보성사를 중심으로 천도구국단(天道救國團)을 조직하였다. 1914년 8월 제1차 세계대전의 경과에 따라, 동학농민운동 · 갑진신생활개화운동의 재현을 위해, 천도교인을 망라한 민중운동을 계획하였다. 그 뒤 계획이 실패하자 1916년 11월 손병희(孫秉熙)를 찾아가 협의민중운동(協議民衆運動)을 모색하였으나 이것도 여의치 않았다.
1919년 2월 27일 천도교 서울교구장으로 있으면서 최남선(崔南善)이 초안한 독립선언문 2만 1000여 장을 보성사 사장 이종일과 협의, 김홍규(金弘奎) 등의 주선으로 인쇄하여 전국에 배포하였다. 이로 인해 6개월간 옥고를 치렀다.
한편, 보성사의 총무로 있으면서 천도교 지하신문인 『조선독립신문』 발간에도 참여하였다. 1922년 3월 1일 태평양회의 폐막을 계기로 제2의 3·1운동을 계획하던 중 잡혀 문초받기도 하였다.
보성사가 방화된 이후 1925년경에는 행주내리로 낙향하여 시문을 짓고 일기를 남겼다. 『장효근일기』의 특징은 다음과 같다. 첫째, 일제피점하에서의 독립사상은 일제에 항거하기 위하여 급조, 제시된 저항사상체계가 아니라 17세기 이후 태동, 발전한 실학사상(중상적 해외교류론)에 근기(根基)하여 개화사상에 영향을 미친 것이고 그것이 다시 독립사상에 맥락지어졌다는 점을 강조하고 있다.
둘째, 일제피점하에서의 민중의식의 계발이 무엇보다도 독립에의 첩경이며 민중의 지지를 받아야만 가능한 것이라고 강조하면서 저항과 개화근대화를 병행, 발전시켜야 함을 강조하였다.
셋째, 한국인에 의해 최초로 일제강점하 35년사의 통사를 체계적으로 엮었다는 점이다. 넷째, 3·1운동 계획이 이미 1910년대로부터 천도교측에서 태동하였고, 보성사 중심으로 사장 이종일과 함께 추진하였다는 점을 시사하고 있다.
다섯째, 천도교 중심의 제2의 3·1운동을 계획, 실천하려다가 연루자가 잡힘으로써 불가능해졌으나 3·1운동의 맥락은 1919년 이후 면면히 계승, 발전되고 있다는 전통성의 맥락이 역력히 발산되고 있다는 점을 들 수 있다.
1977년 대통령표창, 1990년 애족장이 추서되었다.