본관은 양주(楊州). 자는 원칠(元七), 호는 심암(心菴). 조영극(趙榮克)의 증손으로, 할아버지는 조종철(趙宗喆)이고, 아버지는 조진익(趙鎭翼)이다. 어머니는 박종악(朴宗岳)의 딸이다.
1816년(순조 16) 진사시에서 합격하고, 1827년에 정시 문과에 병과로 급제, 규장각대교로 선발되었다.
그 뒤 1866년(고종 3) 영의정으로 치사(致仕)하기까지 40년 동안을 줄곧 벼슬하면서 순조·헌종·철종·고종을 보필하였다. 순조 때에는 승지를 거쳐 대사성을 지냈고, 헌종 때에는 동지사행(冬至使行)의 부사로 중국에 다녀온 뒤 이조참판·황해도관찰사를 거쳐 1841년(헌종 7) 공조판서에 올랐다.
뒤이어 형조판서·한성부판윤·평안도관찰사를 지내다가 1849년 예문관대제학이 되어 『헌종실록』의 편찬을 주관하였다. 이듬해 철종의 생부인 전계대원군(全溪大院君)의 신도비문을 지었으며, 병조판서가 되었다.
이듬해『동문휘고(同文彙考)』의 편찬을 담당하고, 이어 이조판서가 되었다가 1853년(철종 4) 우의정에 올랐으며, 1865년 영의정이 되기까지 지중추부사 및 판중추부사를 역임하면서 우의정·좌의정을 연임하였다.
정원용(鄭元容)·김흥근(金興根)·김좌근(金左根) 등 세도대신들과 함께 삼정이정청(三政釐整廳)의 총재관(摠裁官)을 지내고, 고종의 영립(迎立)에 주도적 역할을 하였다.
흥선대원군(興宣大院君) 집권 초기에 영의정이 되어 1년간 경복궁 재건, 『대전회통』편찬, 삼군부(三軍府) 설치 등의 지휘를 맡았다. 1866년 치사하고 기로소(耆老所)에 들어 갔으며, 봉조하(奉朝賀)가 되었다. 저서로 『심암집』이 있다. 시호는 문헌(文獻)이다.