본관은 홍천(洪川). 상사봉어(尙舍奉御) 장진(張瑨)의 손자이며, 검교군기소감(檢校軍器少監) 장제망(張齊望)의 아들이다.
어려서 성균시(成均試)에 응시하였고, 또 고조(高祖)의 음서(蔭敍)를 받아 서리(胥吏)의 적에 올랐다. 여러 차례 성시(省試)에 응시하였으나 급제하지 못하였다. 내시성(內侍省)에 불려 들어간 지 1년 만에 전시(殿試)에 나아가 진사제(進士第)에 급제하였고, 이후 명복궁녹사(明福宮錄事)·사문조교(四門助敎, 정8품)를 역임하였다.
1109년(예종 4)에 행영병마녹사(行營兵馬錄事)로서 숭녕진(崇寧鎭: 함경남도 함주)에서 여진인 38명의 목을 베었다. 또 연대는 확실하지 않으나 정주(靜州, 평안북도 의주)와 변주(邊州, 위치 미상)의 분도(分道)로 나가 군사(軍事)를 관할하였으나 변경이 침략당하자, 관례에 따라 마땅히 좌천되어 면직될 뻔하였다. 장문위는 이에 앞서 군대를 독려하여 6명의 머리를 베고 소와 말 43마리를 노획하였으며, 나라를 배반한 향인(鄕人) 남녀 13인을 사로잡은 일이 있었으므로 죄를 용서받았다.
이후 액정내알자(掖庭內謁者, 정6품)에 올랐고, 숭명부주부(崇明府注簿)를 거쳐 시합문지후 수주지사(試閤門祗候 樹州知事)가 되었다. 이 때 주의 백성들에게 기근이 들었는데, 장문위가 힘든 역사(役事)를 줄여주니 백성들이 이에 감복하였다. 밭으로 개간되지 않은 곳의 풀을 베고 동산에 씨를 뿌리니, 그 곡식이 해를 이어 크게 넉넉해져서 공부(貢賦)에 충당할 수 있게 되었다. 또 주의 동쪽 교외는 땅에 습기가 많고 강물이 때때로 농사를 망쳐 그 해의 노력을 잃게 하기도 하였다. 이에 장문위가 2,500여 보(步) 가량의 땅을 파서 물의 흐름을 고르게 하니 백성들이 그 해를 입지 않았다.
임기가 차자 시사재승 겸 추밀원당후관(試司宰丞兼樞密院堂後官)으로 승진하였고, 또 중서주서(中書注書)로 옮겼다. 1118년(예종 13)에 권지감찰어사(權知監察御史, 종6품)에 임명되었고, 안찰사(按察使)로 수주에서의 치적을 보고하였다. 이 해에 진어사(眞御史)가 되었다. 서경유수통판(西京留守通判), 형부(刑部)와 공부(工部) 2부의 원외랑(員外郞, 정6품), 호부낭중(戶部郞中, 정5품)을 거쳐 시사재소경(試司宰少卿, 정4품)이 되었고, 산질(散秩)로 예부상서(禮部尙書, 정3품)가 되었다.
1134년(인종 12)에 집에서 사망하였고, 그 해 11월 27일에 개경의 서남쪽 개성부(開城府) 경내의 산에 장례지냈다. 아들로는 진사(進士) 장충정(張忠正)이 확인된다. 권지사문박사 금오위녹사참군사(權知四門博士 金吾衛錄事叅軍事) 예낙전(芮樂全)이 지은 묘지명(墓誌銘)이 현존하고 있다.