본관은 양주(楊州). 자는 치문(稚文), 호는 창혜(蒼惠). 경기도 광주 출신. 도사 조홍순(趙弘淳)의 아들이다.
1863년(철종 14) 정시문과에 병과로 급제하였다. 1866년(고종 3) 사간원 정언에 임명된 뒤, 1867년 부수찬을 거쳐 1881년 동래부암행어사가 되어 그해 정부가 파견한 조선12인조사일본시찰단(朝鮮十二人朝士日本視察團)에 참가하였다.
그뒤 부경리통리기무아문사(副經理統理機務衙門事)·우승지·감리인천항통상사무(監理仁川港通商事務)를 역임하고, 1884년 함경도병마수군절도사 겸 안무사가 되었다.
1887년 협판교섭통상사무(協辦交涉通商事務)가 되었고, 이듬해 전보국총판(電報局總辦)·이조참판을 거쳐 1889년 개성부유수·협판내무부사(協辦內務府事)를 역임하였다. 1892년 동지정사(冬至正使)로 중국에 다녀왔다.
1893년 형조판서·독판교섭통상사무(督辦交涉通商事務)를 거쳐 이듬해 외무독판(外務督辦)에 올랐으나 청일전쟁중에 일본의 압력으로 한때 실각, 수원부유수가 되었다가 1895년 장례원경(掌禮院卿)에 임명되었다.
1896년 아관파천 당시에는 친러파에 가담, 학부대신·법부대신·농상공부대신을 역임하였으나 탐관오리로 고발당하였다. 1897년 다시 학부대신이 되었고, 이듬해 외부대신에 이어 법부대신이 되어 고등재판소재판장을 겸임하면서 만민공동회를 탄압, 맹렬한 비난을 받고 일단 징계되었으나 곧 면제되었으며, 외부대신·의정부찬정에 임명되었다.
1899년 탁지부대신이 되었고, 이어 의정부참정이 되어 표훈원의정관(表勳院議定官)을 겸임하였다. 저서로는 시찰기류(視察記類)인 『세관사무(稅關事務)』가 있다. 시호는 충간(忠簡)이다.