본관은 창녕(昌寧). 자는 시좌(時佐). 참판 성석인(成石因)의 증손으로, 할아버지는 동지중추부사(同知中樞府事) 성엄(成揜)이고, 아버지는 참판 성순조(成順祖)이다. 어머니는 동지총제(同知摠制) 이난(李蘭)의 딸이다.
1456년(세조 2) 사마시에 합격, 1459년 식년 문과에 병과로 급제하였다. 1469년(예종 1) 세자시강원필선·사섬시첨정을 거쳐 대사간이 되었다. 1479년(성종 10) 전라도관찰사가 되고, 1481년 이조참의·우부승지·좌부승지를 거쳐, 다음 해 우승지·형조참판·동지중추부사를 지냈다. 1484년 한성부우윤·경기도관찰사가 되고, 이듬해 형조판서로 세자시강원좌빈객을 겸하였다.
1488년 대사헌·이조판서를 거쳐 우참찬이 되고, 1490년 성절사(聖節使)가 되어 명나라에 다녀왔다. 이듬해 영안도절도사로 나아가 북정부원수(北征副元帥)로서 도내에 쳐들어온 야인을 정벌하였다. 1494년(성종 25) 병조판서를 거쳐, 이듬해 우찬성이 되고, 1498년 우의정에 올랐다.
이듬해 삼수군(三水郡)에 야인들이 침범하자 서정장수(西征將帥)가 되었다. 1500년 좌의정에 올라 영의정 한치형(韓致亨), 우의정 이극균(李克均)과 함께 시폐십조를 주청, 연산군의 난정(亂政)을 바로잡으려 했으나 이루지 못하였다. 또한 우의정으로 있으면서 연산군을 경계시키기 위해 『국조보감(國朝寶鑑)』의 열독을 권고하기도 하였다.
1503년 영의정에 올라 세자사(世子師)를 겸했으나 갑자사화 때 앞서 성종비 윤씨의 폐위와 사사에 관여한 죄로 직산에 유배되고 이어 배소에서 잡혀와 교살되었다. 중종 때 복관되었으며, 시호는 명숙(明肅)이다.