장동휘는 1920년 6월 22일 인천에서 태어났다. 1938년 인천상업학교를 졸업했으며, 1941년 만주에서 악극단 칠성좌(七星座)에 입단하여 배우활동을 시작했다. 이후 라미라(羅美羅), 대도회(大都會), 코리아, 창공(蒼空), 현대(現代), 새별 등에서 활동했다. 1957년 김소동 감독이 연출한 「아리랑」으로 영화에 첫 출연했다. 다양한 장르의 영화에 출연했으나, 그 중에서도 「두만강아 잘있거라」(1962), 「돌아오지 않는 해병」(1963),「순교자」(1965)와 같은 전쟁영화와 「팔도사나이」(1968),「명동출신」(1969),「명동백작」(1970) 등 액션영화 등에서 두드러진 활약을 했다. 1959년 민극(民劇), 1963년 극단 신협의 회원으로 활동하며 연극에도 출연했다. 1960~1970년대 전쟁영화와 액션영화를 상징하는 배우였다. 악극배우 출신을 대표하여 배우협회장 등을 역임했다.
1963년 제1회 청룡영화상에서 「돌아오지 않는 해병」으로 특별집단연기상을 받았고, 1971년 제10회 대종상에서 「대전장」으로 남우주연상, 1976년 제15회 대종상 영화제에서 「어머니」로 남우조연상을 수상했다. 사후 한국 영화계에 끼친 커다란 공로를 인정받아 1995년 ‘옥관문화훈장’을 수여받았다.