본관은 한산(韓山). 자는 준여(準汝), 호는 계서(溪西). 할아버지는 군자감정 이산중(李山重)이고, 아버지는 예조참판 이태영(李泰永)이며, 이도영(李道永)에게 입양됐다.
집안은 노론으로 혜경궁홍씨의 외척이다. 부인 풍산 홍씨는 효행으로 이름이 높아 정려된 바 있다.
1810년(순조 10)사마시에 급제했다. 전주판관 및 황주목사를 지냈다.
태인현감을 지낸 심능숙(沈能淑)과 교우관계를 맺었다. 1795(정조 19) 24세에 사도세자의 무덤이 있는 수원으로 가서 혜경궁홍씨의 회갑잔치에 참여했다는 내용의 국문체 기행문인 「화성일기(華城日記)」를 지었다. 생부 이태영의 행적을 주요내용으로 삼아 104편의 설화를 모은 『과정록(過庭錄)』을 남겼다.
『계서잡록』과 『계서야담』은 동생인 이희준(李羲準)의 편저로 알려졌으나 두 사람의 호가 바뀌어 잘못 전해졌을 가능성 때문에 이희평의 편저라는 설도 있다.