본관은 한양(漢陽). 할아버지는 판서 조돈(趙暾)이고, 아버지는 용원부원군(龍原府院君) 조인벽(趙仁璧)이다. 어머니는 하동정씨이다.
시조 조지수(趙之壽)는 중국에서 귀화하여 함경도 용진(龍津)에서 살았다. 그리고 조지수의 아들 조휘(趙暉)는 몽고가 침입할 때 반란을 일으켜 몽고에 투항한 뒤 쌍성총관(雙城摠管)이 되었다. 이후 조휘의 손자이며 조온의 할아버지인 조돈에 이르러 고려에 완전히 귀화하여 공민왕의 쌍성총관부 수복작전을 도운 공으로 벼슬이 판서에 이르게 되었다.
어려서부터 외삼촌인 이성계를 유달리 섬겨왔고, 1388년(우왕 14) 위화도회군 때 이조판서로 회군에 참여, 회군공신에 책록되었다. 이후 밀직부사를 거쳐 1392년(공양왕 4) 이성계 추대에 공을 세워 개국공신 2등으로 평양윤(平壤尹)에 임명되고 한천군(漢川君)에 봉해졌다. 1393년(태조 2) 서북면도순문사로 수주(隋州)에 쳐들어온 왜구를 격파했고, 연의주도(鍊義州道)의 장정들을 군적(軍籍)에 등록시켜 군사력 강화를 꾀하였다.
1398년 제1차 왕자의 난에 친군위도진무(親軍衛都鎭撫)로서 이방원(李芳遠)의 집권을 도와 그 공으로 정사공신(定社功臣) 2등이 되었다. 중추원사를 거쳐 의흥삼군부좌군동지절제사(義興三軍府左軍同知節制使) · 상의문하부사(商議門下府事)를 역임하였다.
1400년(정종 2) 제2차 왕자의 난 때 참찬문하부사(參贊門下府事)로서 이방간(李芳幹)의 난을 평정하는 데 공을 세웠다. 이 해 상왕의 명으로 제1차 왕자의 난 때 정도전(鄭道傳) 등을 죽인 죄로 완산부에 유배되었다가 곧 풀려나와 삼사좌사(三司左使)에 올랐다.
1401년 태종이 즉위하자 참찬의정부사(參贊議政府事)로서 좌명공신(佐命功臣) 4등에 책록되어 부원군(府院君)에 진봉되고, 이 해 성절사(聖節使)로 명나라에 다녀왔다. 1402년 의정부찬성사 · 동북면찰리사(東北面察理使)를 지냈다. 효성이 지극했고 청렴 검소하였다. 시호는 양절(良節)이다.