서상렬(徐相烈)은 1854년(철종 5) 충청북도 단양에서 태어났다. 본관은 대구(大丘)이며, 자는 경은(敬殷), 호는 경암(敬庵)이다.
일찍이 무과(武科)에 급제하였다. 청국의 고문관인 독일인 묄렌도르프(Paul George von Möllendorff)가 조정에 들어오자 사직하고 김평묵(金平默)과 유중교(柳重敎)의 문하에서 수학하였다. 이후 1884년 갑신정변과 1894년 갑오개혁이 일어나자 충격을 이기지 못하고 기색하였으며 병석에 눕기까지 하였다. 1895년 고을의 군수 김익진(金益鎭)이 의복을 변화시키고 단발하고자 핍박하였으나 거부하였다.
1895년 을미사변이 발발하자 의병 봉기를 결의하고 이필희(李弼熙) · 오인영(吳寅泳) · 배시석(裴是碩) 등과 함께 충청북도 단양에서 의거하기로 하고 제천으로 달려갔다. 동지들이 서상렬을 대장으로 추대하려 하였으나, 이필희에게 양보하고 스스로 참모가 되었다. 같은 해 12월 8일 단양에 이르러 관군과 접전할 때 복병책으로 큰 전과를 올렸다. 그 승세를 타서 충주부로 들어가고자 하였으나, 장졸들이 고개를 넘어서 영남 각지의 의진과 합세할 것을 주장하여 죽령(竹嶺)을 넘어 풍기(豊基) 고을에 도달하였다. 이곳에서 의병을 모집하고 충주 · 영월을 거쳐 안승우(安承禹) 의진과 회합하였다.
또한, 신지수(申芝秀)도 네 고을 병정을 모집하여 왔다. 다시 제천에 이르러 친일 관료인 권숙(權潚) · 서상기(徐相蘷)를 베어 죽이고 병졸을 모집하고 전투 장비를 마련하고 군사를 훈련하여 본진의 뒤를 계속 따랐다. 이때 의진의 대장으로 추대된 유인석(柳麟錫)이 충주성에 입성해 있자 서상렬은 "서울 부근의 적은 반드시 엄한 방비가 있을 터이니 군사를 휴식하고 군량을 적취(積聚)하여 사방의 군사가 모여드는 것을 기다려서 진격하는 것만 같지 못합니다."라면서 영남 지역의 의병을 움직일 것을 청하여 허락받았다. 그리하여 서상렬은 원용정(元容正)과 함께 각 읍의 의병을 불러모으니 남방의 여러 장수가 호응하여 예천군에 모여 유인석을 의병대장으로 추대하였다.
관찰사 이남규(李南奎) · 이중하(李重夏)가 대구 · 안동 지역을 거점으로 의진을 집중 공격하자 제천으로 환군하였다. 그 뒤 유인석의 명을 받고 단양으로 나아가 방비하고 있던 중 제천 의진이 무너지고 안승우 · 홍사구(洪思九)가 전사하였다. 이에 풍기에서 군사를 머물게 한 후 영춘을 거쳐 정선으로 나아가 유인석에게 황평양서(黃平兩西)로 진출하여 모군할 것을 제안하였다. 도중에 여러 차례 적과 접전하였는데, 6월 12일 낭천(狼川, 지금의 강원도 화천)에 이르러 전투 중 사망하였다.
1963년에 건국훈장 독립장이 추서되었다.