초명은 석문(碩門). 본관은 창녕(昌寧). 자는 순보(順甫). 조우희(曺遇禧)의 증손으로, 할아버지는 조경수(曺敬修)이고, 아버지는 관찰사 조항(曺沆)이다. 어머니는 민설(閔渫)의 딸이다.
1434년(세종 16) 알성문과에 을과로 급제, 정자에 이어 집현전부수찬·사간원정언 및 이조·형조·예조의 정랑을 역임하였다. 노모를 봉양하기 위해 벼슬을 그만두고 장단에 물러가 있자 조정에서 그 재주를 애석히 여겨 지안산군사(知安山郡事)로 삼았다.
치적이 출중하여 홍주목사에 특진되었다. 또한 관찰사의 추천으로 그 치적이 조정에 알려지자 상호군·지형조사(知刑曹事)에 승진되고, 곧 동부승지에 임명되었다. 1455년(세조 1) 수양대군이 단종의 왕위를 수선(受禪)할 때 가담, 협력한 공으로 좌익공신(佐翼功臣) 3등이 되고 1457년 도승지에 임명되었다.
1459년 명나라에서 우리 나라가 야인(野人)에게 관직을 수여한 일로 사신을 보내 책망하자, 이조참판으로서 주문사(奏問使)가 되어 명나라에 다녀왔다. 임무를 마치고 돌아온 뒤 호조참판에 임명, 창녕군(昌寧君)에 봉해지고, 뒤에 호조판서에 승진되었다.
1461년 호조판서로서 중외탁지사(中外度支事)를 총령(總領)하게 되고, 1466년 우찬성에 임명, 호조판서를 겸직하게 되었다. 호조판서를 겸직하게 한 것은 오랫동안 그 직책에 근무하여 회계 사무에 밝고 국가의 재정을 유족하게 하는 일에 힘썼기 때문이다.
1467년 이시애(李施愛)의 반란이 일어나자 병마부총사(兵馬副摠使)로서 출정했으나 함흥에 주둔만 하고 전진하지 않아 여러 장수들의 불평이 많았다. 돌아오자 반란을 토평한 공으로 적개공신(敵愾功臣) 1등에 책록되고 좌의정에 임명되었으며, 조금 뒤 영의정에 승진되었다.
이듬해 왕명으로 노사신(盧思愼)과 함께 『북정록(北征錄)』을 찬정하였다. 1468년 예종이 즉위한 뒤 남이(南怡)·강순(康純) 등의 옥사를 다스린 공으로써 익대공신(翊戴功臣) 3등에 책록되었다. 또, 1471년(성종 2) 성종의 즉위를 보좌한 공으로 좌리공신(佐理功臣) 1등에 책록되었다.
1476년 다시 좌의정에 임명되었으나 병으로 사면하고 창녕부원군(昌寧府院君)에 봉해졌으며, 이듬해 영중추부사가 되었다. 시호는 충간(忠簡)이다.