본관은 동래(東萊). 자는 경회(慶會). 정부(鄭符)의 증손으로, 할아버지는 정흠지(鄭欽之)이고, 아버지는 영의정 정창손(鄭昌孫)이며, 어머니는 정지(鄭持)의 딸이다.
1456년(세조 2) 생원시에 합격한 뒤 음보(蔭補)로 벼슬길에 나가 주부와 공조좌랑·정랑을 지냈다. 1465년 식년 문과에 급제하고, 사예(司藝)를 거쳐 장령(掌令)으로 성절사(聖節使)의 서장관(書狀官)이 되어 명나라에 다녀왔다.
1473년(성종 4) 대사간에 올라 언로의 확충, 내수사(內需司) 장리(長利)의 폐단 시정, 과거급제 정원의 증가, 관리 서용의 새로운 기준 마련 등 국정 전반에 걸친 활발한 언론활동을 전개하였다.
이어 병조의 참지·참의를 역임하고 황해도관찰사로 승진, 잠시 외직에 있다가 다시 돌아와 한성부좌윤·대사헌을 거쳐 이조참판이 된 지 수개월만에 이조판서에 발탁되어 3년간 인사 행정을 담당하였다.
그 뒤 지중추부사(知中樞府事)·한성부판윤·병조판서·우찬성·도총관·형조판서 등 요직을 역임하였다. 1490년 경상도관찰사로 나가 치적을 올렸으며, 1492년 진하사(進賀使)로 명나라에 가서 황태자의 책봉을 축하하고 돌아와 다시 병조판서를 지냈다.
이듬해 평안도관찰사가 되었으나 병으로 사직을 요청했고, 조정에서는 평안도는 중국 사신의 경유지이므로 명망자(名望者)가 파견되어야 한다는 이유로 허락하지 않았다. 1495년(연산군 1) 10월 좌의정에 올랐으며, 사은사로 명나라에 파견되었다가 돌아오는 길에 칠가령(七家嶺)에서 사망하였다.
맡은 일을 착실하게 수행하고 결단력이 있었으며, 기상이 엄준해 대신의 풍모가 있었다. 시호는 공숙(恭肅)이다.