본관은 창녕(昌寧). 자는 종성(宗聖). 부제학 조상치(曺尙治)의 증손으로, 할아버지는 부지승문원사 조변융(曺變隆)이고, 아버지는 부사 조구서(曺九叙)이며, 어머니는 좌찬성 이승손의 딸이다.
1495년(연산군 1) 진사가 되고, 그 해 증광문과에 병과로 급제하여 홍문관정자(弘文館正字)를 지내고 승진하여 1502년 부교리(副校理)에 올랐다. 그러나 연산군의 처족인 신승복(愼承福)의 승자와 경주부사 임명에 반대하다가 의금부에 수금되고 이어 파직되었다.
1506년 박원종(朴元宗)·성희안(成希顔) 등이 중종반정을 도모하자, 여기에 가담하여 정국공신(靖國功臣) 2등에 책록되고 창녕군(昌寧君)에 봉하여졌다. 그 뒤 홍문관부제학으로 있으면서, 연산군이 죽자 각방당상(各房堂上)으로서 『연산군일기』 편찬에 참여하였다.
1507년(중종 2) 7월 성절사(聖節使)로 명나라에 파견되어 임무를 수행하고 돌아왔으며, 같은 해 12월에 충청도관찰사로 나아갔다가 1508년(중종 3) 대사헌에 올랐다. 1510년 다시 대사헌이 되고 공조참판을 거쳐, 이듬해 세번째로 대사헌이 되었다. 그 뒤 동지중추부사·한성부좌윤을 거쳐 이조참판을 역임하였다.
1512년 명나라에서 제주도 표류민을 쇄환하여 왔는데, 이 일로 진하사(進賀使)가 되어 명나라에 다녀왔다. 1514년 경상도관찰사가 되고 뒤에 예조·호조의 참판을 거쳐 공조판서에 올랐으나, 김안로(金安老)의 미움을 받아 파직되었다가, 1537년김안로가 제거된 뒤 다시 기용되어 우참찬이 되고, 1539년 우찬성에 이르렀다. 시호는 충정(忠貞)이다.