본관은 달성(達城). 자는 원중(元仲). 서긍보(徐兢輔)의 아들이다.
1871년(고종 8) 정시문과에 병과로 급제해 검열(檢閱)이 되었다. 공조참의·동부승지(同副承旨)를 거쳐 1875년 대사간이 되었고 다음 해에 순천부사로 외직에 나갔다.
그 뒤 형조참판·이조참판·경주부윤·여주목사·이천부사 등 내외직을 두루 역임하였다. 1889년 도승지가 되어 함경도 방곡령(防穀令) 사건, 한성개잔(漢城開棧) 문제 등 일본 및 청나라와의 복잡한 외교문제를 처리하였다. 1890년 대사성(大司成)·형조판서, 1891년 예조판서가 되었고, 진하 겸 사은정사(進賀兼謝恩正使)로 청나라에 다녀왔다.
1892년 함경감사가 되었다가, 1894년 김홍집내각(金弘集內閣)의 공무아문대신으로 활약하였다. 1895년 중추원의관·빈전제조(殯殿提調)·시종원경(侍從院卿)을 거쳐 다음 해에 강원도관찰사·함경남도관찰사가 되었다.
1898년 중추원의관·의정부찬정·임시서리의정을 지내고 독립협회의 요구에 따른 개각 때 박정양내각(朴定陽內閣)의 법무대신 겸 고등재판소재판장이 되었다. 이때 시임대신(時任大臣)으로 만민공동회(萬民共同會)에 출석, 이 회에서 채택한 의안 11조에 찬성하고 왕에게 올리는 헌의6조(獻議六條)에 서명하는 등 적극 참여하다가 면관되었다.
1899년 중추원 부의장으로 법규교정소의정관(法規校正所議定官)이 되어 대한국국제(大韓國國制) 제정에 노력하였고 태의원경(太醫院卿) 궁내부 특진관을 지냈다. 1900년에는 홍문관학사·장례원경(掌禮院卿)·표훈원의정관(表勳院議定官)을 역임하였다. 1904년 기로소(耆老所)에 들어갔고, 표훈원의정관·중추원찬의·표훈원내관 등을 거쳐 1906년 중추원의장이 되었다. 1908년 규장각제학을 지냈다. 시호는 효문(孝文)이다.