1886년 충청북도 중원군 출생으로, 1919년 겨울 두만강을 건너 만주 연길현 팔도구 수북천으로 이주하였다.
3·1운동을 계기로 만주 지역에 무장투쟁론이 크게 대두되면서 재만 동포들의 지지로 70여 개의 독립군 부대가 편성되었다. 특히 1920년대 삼둔자(三屯子) 전투, 봉오동 전투 등 무장투쟁이 전개되었고, 이에 자극을 받은 일본군들이 훈춘사건(琿春事件)을 일으켜 출병의 명분을 만들어 독립군 토벌을 시작하였다.
1920년 10월 일본군 토벌대가 연변 등지의 조선인 거주지에 쳐들어와 무자비하게 보복 살육한 경신참변(庚申慘變)이 벌어졌는데, 이 과정에서 길림성 연길현 팔도구 일대 독립무장단체의 책임자였던 조병일도 체포되었다. 체포 후 1920년 11월 26일 일본군의 고문으로 연길현 양지촌(陽地村)에서 순국하였다.
대한민국 정부는 그의 공훈을 기리고자 1996년 건국훈장 애족장을 추서하였고, 「독립유공자 예우에 관한 법률」에 의거하여 2000년 유해가 봉환되었다.