1693년(숙종 19) 진사가 되고, 1702년 식년문과에 을과로 급제, 검열 · 지평 · 정언 등을 지냈다. 1707년 문과중시에 병과로 급제하였다. 1708년 이조정랑을 거쳐 우부승지를 지내고, 다음 해 철원부사로 나갔다가 1710년 대사성에 오르고, 1711년 일본에 통신사로 차출되어 일본에 다녀 왔는데 이 때에도 막부의 어용화가 가노 쓰네노부(狩野常信)가 그린 조태억의 초상화가 전해진다.
그 뒤 이조참의 · 호조참의가 되었다가 1712년 왜인의 국서(國書)가 격식에 어긋났다는 이유로 관작이 삭탈되고, 문외출송(門外黜送)되었다가 이듬해 풀려 나왔다. 1714년 다시 기용되어 이듬해 공조참의가 되고 예조참의를 거쳐 1717년 여주목사로 나갔다가 1719년 장례원판결사가 되었다.
1720년 다시 경상도관찰사로 나갔다가 1721년(경종 1) 호조참판으로 기용되고, 같은 해 대사성 · 세제우부빈객이 되었다. 호조참판으로 있는 동안 조태구 · 최석항(崔錫恒) · 이광좌(李光佐) 등과 함께 세제(世弟: 뒤의 영조) 책봉과 대리청정을 반대하여 철회시켰다. 이어 부제학 · 형조판서 · 지경연사(知經筵事) · 우빈객(右賓客)을 지냈다.
1722년 대제학이 되었고, 공조판서 · 예조판서 등을 거쳐 1724년 호조판서에 올랐다. 그 해 영조가 즉위하자, 즉위의 반교문(頒敎文)을 지었고, 병조판서가 되었다가 출사(出仕) 8일 만에 복상(卜相)이 있어 이조판서 이조(李肇)의 추천으로 우의정에 올랐다. 같은 날 호위대장(扈衛大將)을 제수받았으며 대제학을 겸임하였다.
1725년(영조 1) 사간 이봉익(李鳳翼), 지평 유복명(柳復明) 등의 청으로 판중추부사로 전직되었다가 이어 삭출(削黜)되었다.
1727년 정미환국으로 다시 좌의정에 복직되었다가 영돈녕부사(領敦寧府事)에 전임하였다.
1755년 나주괘서사건(羅州掛書事件)으로 관작이 추탈되었다. 1768년 8월 복권되었으나, 정조가 즉위하던 1776년 4월 다시 추탈되었다. 1908년(순종 2) 4월 거듭 복권되었다.
온건파에 속했고, 영조 즉위 후 김일경(金一鏡) 등 소론 과격파의 국문 때 책임관이 되었으나 위관(委官)의 직책을 매우 불안히 여겨 왕의 친국을 청하기도 하였다. 초서(草書) · 예서를 잘 쓰고 영모(翎毛)를 잘 그렸으며, 친필 서첩으로 『유고조태억(遺稿趙泰億)』이 남아 있다. 저서로 문집인 『겸재집』이 있다. 시호는 문충(文忠)이다.