본관은 전주(全州). 자는 덕일(德一). 증조부는 은언군(恩彦君) 이인(李䄄)이며 할아버지는 전계대원군 이광(全溪大院君 李㼅)이고, 외할아버지는 안동김씨인 김재협(金在協)이다. 아버지는 왕족인 이휘응(李徽應)이었으나, 영평군 이경응(永平君 李景應)에게 입양되었다.
1868년(고종 5) 종친정시문과(宗親庭試文科)에 을과로 급제해 벼슬길에 올랐다. 1871년 부교리를 거쳐 이듬해 부사과(副司果)를 지내고 교리가 되었으며, 1876년 종친부정(宗親府正)이 되었고 1878년 병조참의를 역임하였다. 부호군을 거쳐 1880년 성균관대사성에 올랐으며, 1888년 이조참판을 거쳐 사헌부대사헌을 지냈으며 1892년 한성부판윤이 되었다.
같은 해에 형조판서가 되고 의정부우참찬을 거쳐 이듬해에는 예조판서를 지냈다. 1894년 재차 형조판서를 지냈으며, 이듬해 7월 특파대사로 일본에 파견되었다. 그 해 10월 12일 시종원경으로 있으면서 친일정권에 포위되어 불안에 떨고 있는 국왕을 궁성 밖으로 모셔 나와 친일정권을 타도하고 새 정권을 수립하고자 춘생문사건(春生門事件)을 일으켰다.
시종 임최수(林最洙) · 탁지부사계국장(度支部司計局長) 김재풍(金在豐) · 참령 이도철(李道徹) · 정위 이민굉(李敏宏) · 전의원(前議員) 이충구(李忠求) · 중추원의관 안경수(安駉壽) 등과 합작모의해 정동파(貞洞派) 인사들인 이범진(李範晉) · 이윤용(李允用) · 이완용(李完用) · 윤웅렬(尹雄烈) · 윤치호(尹致昊) 등의 호응을 받아, 친위제1대대 소속 중대장 남만리(南萬里)와 친위제2대대 소속 중대장 이규홍(李奎泓)이 인솔한 800명의 군인들에게 건춘문(建春門)으로 입궐을 시도하게 하였다.
그러나 실패하고, 삼청동 쪽에 있는 춘생문에서 담을 넘어 입궐을 시도하게 하였다. 그러나 이 계획에 협력하기로 약속했던 친위대 대대장 이진호(李軫鎬)가 배신해 서리군부대신(署理軍部大臣) 어윤중(魚允中)에게 밀고해 어윤중의 선무공작(宣撫工作)으로 거사에 실패하고 말았다.
이로 인해 대부분의 가담자들과 함께 체포되었다. 11월 15일에 열린 특별법원의 판결에서 태(笞) 100, 징역 3년의 형을 받았으나 종친이었기 때문에 3년의 징역을 면제받고 3년 동안 향리로 방축(放逐)되는 벌을 받았다. 이듬해 2월 징계가 풀려 궁내부대신이 되었으며 1899년 청안군(淸安君)에 봉해졌다. 1902년 전권대사로 유럽 각국을 방문하였다.
시호는 문충(文忠)이다.