본관은 한산(韓山). 자는 사명(士明), 호는 소은(少隱). 아버지는 이상노(李庠老)이며, 어머니는 청송심씨(靑松沈氏) 심필지(沈弼之)의 딸이다. 홍직필(洪直弼)의 문하에서 수학하였다.
1862년(철종 13) 아버지 상을 당하였고, 1867년(고종 4) 아내와 어머니 상을 연이어 당하자 사진(仕進)의 뜻을 버리고 속리산·설악산·동해·서해 등 명승지를 유람하였으며, 이 때 남이목(南以睦)·송병선(宋秉璿) 등과 학문을 토론하며 교유하였다.
1873~1874년 만동묘복설소(萬東廟復設疏)를 올려 만동묘 및 인현원(仁賢院)·궐리사(闕里祠)·충목단(忠穆壇)의 복원에 큰 공을 세웠다. 1876년 영호남 선비들에 의해 조정에 천거되었고, 1888년 비서승(秘書丞)에 특차되어 삼산군수(三山郡守), 중추원의관(中樞院議官)을 지냈으나, 말년에는 관직에서 물러나 은거하였다.
이병규는 평생을 존주대의(尊周大義)에 입각하여 충(忠)과 의(義)의 사상으로 일관하였다. 저서로는 『소은유고(少隱遺稿)』가 있다.