장윤문은 처음에는 음서(蔭敍)로 정계에 진출하였다가 뒤에 과거에 급제하였다. 그가 중앙에서 뚜렷한 행적을 드러낸 것은 탐라(耽羅, 지금의 제주도) 저항 사건에서 비롯되었다. 1186년( 명종 16) 탐라에서 반란이 일어났다는 보고에 따라, 식목(式目) 녹사(錄事)로서 대부주부 행탐라현령(大府注簿行耽羅縣令)으로 부임하였다. 그때 국왕의 조서로 기존의 현령(縣令)과 현위(縣尉)에게 중벌을 내렸지만, 반란의 낌새가 없다는 보고가 있었다. 그러나 조서(詔書)로 명령이 이미 내려졌으므로 장윤문은 그대로 부임하였다.
1198년( 신종 원년)에 기거사인(起居舍人)으로 있었는데, 이때 문하녹사(門下錄事)와 당후관(堂後官)이 숙직하는 낭사(郞舍)와 승선(承宣)에게 음식을 준비하여 접대하는 관례가 있었다. 이들이 서로 다투어 풍족하고 사치스럽게 하여 결국에는 여러 폐단이 생기게 되었다. 이에 장윤문이 이를 없애자고 건의하였으나 채택되지 않았다.
1202년(신종 5) 탐라에서 민란이 일어나자 소부소감(小府少監)으로 있던 장윤문이 중랑장(中郎將) 이당적(李唐績)과 함께 탐라(耽羅) 안무사(按撫使)가 되어 저항의 주모자인 번석(煩石)과 번수(煩守) 등을 모두 처형하고 저항을 진압하였다. 이 공로로 시대부경(試大府卿) 우간의대부(右諫議大夫) 지제고(知制誥)로 승진하였다.
1207년( 희종 3)에는 정3품의 대사성(大司成)으로서 과거의 시험관이 되어 시부(詩賦)로 김남석(金南石)을, 십운시(十韻試)로 권시위(權時偉) 등 90여 명을 선발하였다. 이는 그의 문신 관료로서의 위상을 잘 보여주고 있다.
장윤문의 묘지명(墓誌銘)에 보면, 말년에 통의대부(通議大夫) 국자감(國子監) 대사성(大司成) 지제고(知制誥)로 치사(致仕)하였고, 쌍명재(雙明齋) 최대사(崔大師) 최당(崔讜) 형제들과 기로회(耆老會)를 만들었다고 하였다. 1211년(희종 7) 73세로 사망하였다.