본관은 청송(靑松). 자는 청보(淸甫). 청화부원군(靑華府院君) 심용(沈龍)의 증손으로, 할아버지는 좌의정 심덕부(沈德符)이고, 아버지는 영의정 심온(沈溫)이다. 어머니는 영동녕부사 안천보(安天保)의 딸이다. 세종의 비 소헌왕후(昭憲王后)의 동생이다.
아버지 심온은 영의정에까지 올랐으나, 1418년 명나라에 사신으로 다녀오던 중 태종을 비난한 사건에 관련되어 의주에서 체포, 사사되었다. 이 때문에 등용되지 못하다가 세종 말년에 아버지가 신원되자, 문종이 즉위한 뒤 음직으로 돈녕부주부에 등용되었다.
이어 동지돈녕부사를 거쳐, 1454년(단종 2) 첨지중추원사·동지돈녕부사를 역임하고, 1457년(세조 3) 지충추 원사(知中樞院事)·공조 판서를 지냈다. 1458년 중추원부사·판한성부사를 거쳐, 1459년 안주선위사(安州宣慰使)를 겸하고 판중추원사가 되었다. 1461년 영중추원사·형조판서를 거쳐, 1463년 경기도관찰사가 되고, 1466년 좌의정이 되었다.
이듬해 영의정이 되고, 1468년(예종 즉위) 남이(南怡)의 옥사를 처리하여 익대공신(翊戴功臣) 2등에 책봉되고 청성군(靑城君)에 봉해졌다. 1471년(성종 2) 원상(院相)으로서 서정(庶政)에 참여하였다.
1473년 진충협보(盡忠夾輔: 임금을 잘 보좌하고, 정치를 잘함)의 공으로 좌리공신(佐理功臣) 2등에 책록되고 청송부원군(靑松府院君)에 봉해졌다.
그 뒤 성종의 신임을 받아 국가의 대소 정사에 참여했고, 1491년(성종 22) 궤장(几杖)이 하사되었다. 1504년(연산군 10) 갑자사화 때 연산군의 모친인 윤비(尹妃)의 폐출 사건에 동조했다는 죄로 관직이 추탈되고 부관참시(剖棺斬屍)를 당했으나, 뒤에 신원되었다. 시호는 공숙(恭肅)이다.