본관은 양산(梁山). 아버지는 지중추원사 이전생(李全生)이며, 동생이 이징옥(李澄玉)이다.
무과에 장원급제하고, 1416년(태종 16) 사복시소윤(司僕寺少尹)으로 무과 중시에 급제하였다.
1421년(세종 3) 상호군을 거쳐 연일진병마절제사(延日鎭兵馬節制使)가 되었고, 1423년 좌군동지총제(左軍同知摠制)로 우도병마도절제사를 역임하였다. 1427년 중군동지총제(中軍同知摠制)로 경상도병마도절제사가 되고, 또 좌군총제로 승진하였다.
1432년 중추원부사를 임명받고, 이듬해에는 도원수 최윤덕(崔閏德)의 부장인 조전절제사(助戰節制使)로 3,010인의 군사를 거느리고 올라(兀刺) 등지로 가 파저강(婆猪江)에 침입한 야인을 평정한 공으로 중추원사에 올랐다.
그 뒤 경상도병마도절제사 · 경상좌도처치사 · 경상우도도안무처치사 등을 거쳐 지중추원사에 이르렀으며, 이듬해 어버이 봉양을 위해 사퇴하였다. 그 동안 뛰어난 무예로 변방의 진(鎭)에 나가 무공을 세웠다.
그러나 동생 이징옥이 청렴결백해 청백리(淸白吏)로 유명했던 것과는 대조적으로, “청렴결백은 복없는 사람의 별호”라고 말하면서, 지방에 나갈 때마다 많은 토지와 노비를 점탈해 탐관오리로 지탄을 받았다.
평소에 너무 탐욕해 동생 이징옥과는 사이가 좋지 않았고, 아버지의 상중에 징옥을 구타해 비난을 받을 정도로 성질이 난폭했다. 1451년 문종이 즉위하자 다시 중추원부사에 임명되고, 이듬해 지중추원사에 제수되어 진하사(進賀使)로 명나라에 다녀왔다.
1453년(단종 1) 수양대군(首陽大君)이 황보인(皇甫仁) · 김종서(金宗瑞) 등을 죽이고 권력을 장악하자, 당시 함길도도절제사로 있던 동생 징옥이 크게 분개해 병마를 이끌고 북으로 종성에 가서 대금황제(大金皇帝)라 자칭하고 두만강을 건너려 하다가 종성판관 정종(鄭種) 등의 반간계(反間計)에 걸려 피살되었다.
이에 아들과 함께 연좌되었으나, “평소에 동생과 사이가 나쁘고 내통이 없다.”하여 석방되었는데, 이는 수양대군이 그의 무예를 아껴 포섭하기 위한 의도였다. 1455년(세조 1) 좌익공신(佐翼功臣) 3등에 책록되고, 양산군(梁山君)에 봉해졌으며, 판중추원사에 이르렀다. 시호는 장강(莊剛)이다.