본관은 창녕(昌寧). 할아버지는 울진현령 조안중(曺顔中)이고, 아버지는 대사헌 조숙기(曺淑沂)이며, 어머니는 정유의(鄭攸宜)의 딸이다.
1502년(연산군 8) 무과에 급제하고, 이듬해 선전관이 되었으며, 1506년 유빈(柳濱)·윤상로(尹湯老) 등과 협의하여 연산군을 폐하려 하였으나 박원종(朴元宗)·성희안(成希顔) 등의 반정이 먼저 성공하였으므로 공신녹권(功臣錄券)만을 받았다.
1509년(중종 4) 웅천현감이 되어 남해안 일대에 침입한 왜구를 격파하였으며, 1512년 갑산부사로 야인을 토벌하였다. 이듬해 함경도병마절도사로 부임하였으며, 1523년 야인이 여연(閭延)·무창(茂昌)에 침입하여 점차로 부락을 형성하려 하는 것을 몰아냈다.
1528년 평안도병마절도사로 부임하여 다시 야인의 침입을 격퇴하고, 1533년 한성부판윤, 1536년 병조판서를 거쳐 좌찬성에 이르렀다. 시호는 장호(莊胡)이다.