본관은 하동(河東). 자는 백욱(伯勗), 호는 일두(一蠹)·수옹(睡翁). 판종부시사 정지의(鄭之義)의 증손으로, 할아버지는 판전농시사 정복주(鄭復周)이며, 아버지는 함길도병마우후 증한성부좌윤 정육을(鄭六乙)이다. 어머니는 목사 최효손(崔孝孫)의 딸이다.
일찍이 아버지를 여의고 혼자서 독서에 힘쓰다가 김굉필(金宏弼)과 함께 김종직(金宗直)의 문하에서 학문을 연마하였다. 『논어』에 밝았고 성리학의 근원을 탐구하여 체용(體用)의 학을 깊이 연구하였다. 1480년(성종 11)에 성종이 성균관에 유서를 내려 행실을 닦고 경학에 밝은 사람을 구하자 성균관에서 그를 제일로 천거하였다.
지관사 서거정(徐居正)이 그를 경연에서 진강하게 하려 했으나 나가지 않았다. 1483년 사마시에 합격하여 진사가 되고, 8월에는 성균관 상사(上舍)의 동렬(同列)에서 그를 이학(理學)으로 추천하였다. 1486년 어머니가 이질에 걸리자 극진히 간호했으며, 어머니가 죽자 최복(衰服)을 벗지 않고 3년 동안 시묘하였다.
그 뒤 지리산을 찾아가 진양의 악양동(岳陽洞) 부근 섬진(蟾津)나루에 집을 짓고 대와 매화를 심으며 여기에서 평생을 마치고자 하였다. 1490년 참의 윤긍(尹兢)에 의해 효행과 학식으로 추천되어 소격서참봉에 제수되었으나, 자식의 직분을 들어 사양하였다.
성종은 그의 사직상소문의 끝에 “너의 행실을 듣고 나도 모르게 눈물이 났다. 행실을 감출 수 없는데도 오히려 이와 같으니 이것이 너의 선행이다.”라고 쓰고 사임을 허가하지 않았다.
그 해 별시문과에 병과로 급제하고, 예문관검열을 거쳐 시강원설서가 되었는데 이 때 정도(正道)로써 동궁(연산군)을 보도했으나 동궁이 좋아하지 않았다.
1495년(연산군 1) 안음현감(安陰縣監)에 임명되어 백성들의 질고(疾痼)가 부렴(賦斂)에 있음을 알고 편의수십조(便宜數十條)를 지어 시행한 지 1년 만에 정치가 맑아지고 백성들로부터 칭송을 들었다.
감사는 해결하기 어려운 옥사가 있으면 그를 만나서 물어본 뒤에 시행하였다. 이로 말미암아 판결에 의문나는 것이 있으면 원근에서 그를 찾아와 판결을 받았다.
민사(民事)를 돌보는 여가로 고을의 총명한 자제를 뽑아 친히 교육하였고, 춘추로 양로례(養老禮)를 행하였다. 1498년 무오사화 때 종성(鍾城)으로 유배, 1504년 죽은 뒤 갑자사화 때 부관참시되었다. 중종대에 우의정에 증직되었고, 1610년(광해군 2) 문묘에 승무(陞廡)되었다.
나주의 경현서원(景賢書院), 상주의 도남서원(道南書院), 함양의 남계서원(濫溪書院), 합천의 이연서원(伊淵書院), 거창의 도산서원(道山書院), 종성의 종산서원(鍾山書院) 등에 제향되었다. 저서로 『일두유집(一蠹遺集)』이 있다. 시호는 문헌(文獻)이다.