본관은 연안(延安). 자는 성일(聖一), 호는 심재(心齋) · 운정(篔汀). 서울 출신. 아버지는 이명익(李溟翼)이었으나 이건익(李建翼)에게 입양되었다.
1882년(고종 19) 생원으로서 정시문과에 병과로 급제, 홍문관부수찬에 임명되었다.
이듬해 6월 경상좌도암행어사, 10월 강원도암행어사를 거쳐 승정원동부승지에 특제(特除), 1884년 참의군국사무(參議軍國事務) · 강원도독련어사(江原道督鍊御史) · 좌부승지를 역임하고 이조참의가 되었다.
1885년 성균관대사성을 거쳐 1886년 호군으로 재임 중 사대수구파에 의해 고금도에 유배, 가극안치(加棘安置)되었다.
1894년 갑오개혁으로 개화파 정부가 수립되자 풀려나와 공무협판으로 군국기무처의원(軍國機務處議員)이 되었고, 이어 전라도관찰사로 부임, 그 해 12월 동학농민군 지도자 전봉준(全琫準)을 순창에서 사로잡아 서울로 압송하였다.
이듬해 5월 지방 관제개혁에 따라 전주부관찰사가 되고, 이어 부장으로 군부대신에 임용, 곧이어 학부대신으로 바뀌었으나 단발령이 강행되자 이에 반대, 사직하였다.
1896년 동로선유사(東路宣諭使)로 특파, 강원도 지방 의병의 선유에 나섰고, 이어 중추원의관을 거쳐 궁내부특진관이 되었다. 1898년 외부대신 · 비서원경(秘書院卿)을 거쳐 농상공부대신이 되어 그 해 7월에 설치된 양지아문(量地衙門)의 총재관을 겸임하였다.
10월에 다시 학부대신이 되어 비서원경을 겸하고 지석영(池錫永)의 건의를 들어 한성의학교 설치를 인가, 우리나라 최초의 서양의학 교육기관을 세우는 데 기여하였다. 이어 내부대신서리 · 궁내부특진관을 거쳐 경효전제조(景孝殿提調)가 되었다.
1899년 법부대신이 되어 고등재판소재판장을 겸하고, 이어 의정부찬정(議政府贊政) · 귀족원경을 거쳐 1900년 7월 평안북도관찰사에 발령, 1902년 3월까지 근무하였다. 그 뒤 재차 시종원경(侍從院卿) · 궁내부특진관을 거쳐 그 해 11월 홍문관학사, 12월 육군부장(陸軍副將)으로 철도원총재가 되었다.
1903년 초 외부대신, 그 해 말에 평안북도관찰사, 1904년 충청남도관찰사를 거쳐 내부대신 · 표훈원의정관(表勳院議定官)을 역임하고 다시 농상공부대신에 임명되었으며 1905년 다시 내부대신에 발령되었다. 경상북도 · 평안남도 · 충청남도 · 전라북도 · 충청남도 · 전라남도관찰사를 차례로 역임하였다.
1906년 8월 그 동안의 공적으로 태극장(太極章)을 서훈받고, 그 뒤 장례원경 · 시종원경에 임명되었으나 1907년 7월 총리대신 이완용의 모함으로 박영효 등과 함께 나문정죄(拿問定罪) 당하였다. 글씨에 뛰어났다. 시호는 문정(文貞)이다.