본관은 감천(甘泉). 자는 사휘(士輝), 호는 쌍괴(雙槐). 문손무(文孫武)의 증손으로, 할아버지는 증호조참의 문숭질(文崇質)이고, 아버지는 부사 문빈(文彬)[나중 이름은 문걸(文傑)]이며, 어머니는 대사성 이문흥(李文興)의 딸이다. 사헌부장령 문관(文瓘)의 형이다.
1492년(성종 23) 사마시에 합격하고, 1496년(연산군 2) 식년 문과에 병과로 급제하였다. 예문관검열에 보임되어 춘추관기사관을 겸하여『성종실록(成宗實錄)』의 편찬에 참여하였다. 승정원주서, 예조·병조·이조의 좌랑, 헌납을 역임했고, 김해부사·수원부사·금산군수 등의 외직을 지냈다.
1514년(중종 9)부터 사간·대사간 등을 역임하면서, 노산군·연산군의 입후(立後) 문제, 내수사장리(內需司長利)의 혁파와 같은 개혁을 주청하는 등 조광조(趙光祖) 등과 함께 훈구파와 맞서서 적극적인 언론 활동을 전개하였다.
1516년 동부승지를 거쳐 이듬해 도승지가 되었고, 중종의 총애를 받아 형조참판으로 승진되었다. 그러나 남곤(南袞)·심정(沈貞) 등의 무고로 경상도관찰사로 전직되었다. 기묘사화가 일어나자, 조광조의 처형을 반대하는 소를 올렸다가 파직되었다. 1521년 다시 참판으로 기용되었으나, 안처겸(安處謙)의 옥사(獄事)에 연루되어 도의(道義)를 가장하여 이름을 도둑질했다는 죄목으로 관직을 삭탈당하고 용궁에서 살다가 죽었다.
같은 영남 출신인 권벌(權橃) 등과 함께 조광조 등 기호사림파와 연결되어 훈구파와 사림파 사이를 조제(調劑)하는 완충 작용을 했던 인물로 평가받고 있다. 고향인 용궁의 기천서원(箕川書院)에 제향되었다.