1885년 11월 7일 평안북도 의주군 고진면 남제동에서 출생하였다. 1907년 기독교인이 되어 이듬해 세례를 받고, 1914년부터는 의주군 고진면의 남제교회, 용상교회, 낙원교회 세 교회의 조사로 목회활동을 시작하였다. 1916년 평양 장로회신학교를 졸업하고, 평북노회에서 목사로 안수를 받았다. 3·1운동 직후 상해로 망명하여 4월 13일 제2차 임시정부 의정원 회의에 참석하면서 상해임시정부를 통한 독립운동에 적극 가담하였다. 1919년 8월부터는 상해한인교회 목사로 부임하여 김병조, 송병조, 장덕로, 방효원 목사 등과 협력하여 상해 한인교회를 이끌었다. 이후 임시정부에서 활동하며 독립을 위한 투쟁에 헌신하였다. 1940년 사망하였고, 동년 1월 24일 상해 만국공원묘지에 안장되었다.
임시대통령 이승만이 대통령직에서 물러나게 되는 1924년 6월부터 1925년 3월까지의 과정을 주도한 개조파 세력을 소위 ‘삼방연합’이라고 한다. 삼방의 뜻에서 조상섭의 위치가 밝혀진다. 삼방이란 말은 첫째, 의정원 의장을 지낸 조상섭과 교민 단장 겸 인성학교 교장을 역임했던 이유필 등 흥사단 계통의 서북파 인사들, 둘째, 초대 내무차장을 지낸 이규홍과 상해파 고려공산당의 핵심 간부로 상해청년동맹회를 결성한 윤자영 등의 경상도 출신 인사들, 셋째, 의정원 의장 최창식과 의정원 부의장이자 교민 단장인 여운형 등 이르쿠츠크파 고려공산당 간부인 일부 기호파 인사들로 추정되고 있다. 즉 조상섭은 상해 임정의 이승만 탄핵을 주도했던 세력의 중심인물이었고, 1925년 이승만 탄핵 이후 반대파 인물들에 의해 최창식, 이유필, 여운형 등과 함께 이승만 탄핵의 핵심인물로 비판을 받기도 했다.
1921년 대한야소교 진정회원, 임시정부 학무국 차장, 서간도지역 연통제 및 교통국 점검 활동 등을 하고 임시정부 의정원장, 1921년 대한적십자사 위원, 대태평양회의외교후원회 재무전임간사를 맡았다. 1922년에는 군인양성 및 독립운동 비용 조달을 위해 한국노병회를 결성하여 이사를 지냈고, 통상회원 및 교육부장, 노공부장 등을 역임하였다. 1924년 상해 동포 자녀교육을 위해 인성학교 교장으로 활동하였으며, 1929년 상해한독당 창당에 참여하였다. 1932년에는 원창공사라는 인삼 및 화과 등을 중심으로 하는 상업에 종사하기도 하였다.