본관은 풍양(豊壤). 자는 자장(子章), 호는 학당(鶴塘). 풍안군 조흡(趙潝)의 증손으로, 할아버지는 조중운(趙中耘)이고, 아버지는 돈녕부 도정 조도보(趙道輔)이며, 어머니는 김필진(金必振)의 딸이다. 김창협(金昌協)의 문인이다.
1708년(숙종 34) 사마시를 거쳐 1710년 증광문과에 병과로 급제, 1713년 이후 정언·지평을 지내고, 1717년 충청좌도암행어사로 다녀와 다시 지평·정언·수찬·교리·헌납 등을 역임하였다. 1720년 경종즉위 후 대사간·승지·이조참의 등을 거쳐, 1722년 신임사화 때 노론계열이라 하여 안주에 유배되었다가 아산에 이배되었다.
1725년(영조 1) 풀려나서 다음해 함경도관찰사로 부임하고, 북관군병(北關軍兵)에 조총을 복습하게 하였다. 1727년 정미환국으로 노론인 정호(鄭湖)·민진원(閔鎭遠) 등이 탄핵당하자 이를 변호하다 파직되었다.
1729년 다시 기용되어 한성부좌윤·대사헌·경기관찰사·이조참판을 역임하였고, 1731년 사은 겸 동지부사(謝恩兼冬至副使)로 청나라에 건너가 『명사조선열전(明史朝鮮列傳)』을 가지고 돌아왔다.
이듬해 가자되어 이조판서에 오르고 이어 형조판서·공조판서·우참찬을 역임하였으며, 1734년 한성부판윤·병조판서에 이르러 군관치사문제(軍官致死問題)로 파직되었다.
1736년 다시 기용되어 이조판서·수어사(守禦使)·병조판서로 판의금부사를 겸하였고, 각 판서를 두루 거쳐 판돈녕부사·한성부판윤을 끝으로 죽었다. 공신의 후예이며 노론의 중심인물이다. 시호는 경헌(景獻)이다.