본관은 상산(商山). 자는 성부(聖夫), 호는 단계(端磎). 아버지는 해기옹(海寄翁) 김영(金欞)이며, 어머니는 함양박씨이다.
1862년(철종 13)에 일어난 단성민란(丹城民亂)의 지도자이다. 1846년(헌종 12)에 문과에 병과로 급제, 같은 해 12월 승문원권지부정자에 임명되었다. 다음 해 장녕전별검(長寧殿別檢)으로 옮겼다가, 1848년 벼슬을 그만두고 귀향하였다. 그러나 집안이 가난하여 부모를 봉양할 길이 없고, 또 조부와 부친의 권고로 다시 관직에 나아가 1851년(철종 2)에 성균관전적이 되었으나 귀향, 1852년에 다시 전적이 되었다가 곧이어 사간원정언에 옮겨졌다.
1854년에 다시 사직하고 귀향, 이 때 평소에 경모하던 영남 남인계의 대학자인 유치명(柳致明)을 안동으로 가서 찾아보고, 관직을 단념하고 학문에 힘쓸 뜻을 확고히 하였다. 이 해 겨울 온릉(溫陵) 전사관(典祀官)에 차출되었으나, 다음 해에 그만두었다. 이후로는 관직에 나아가지 않고 향리인 단성 단계리에서 생활하였다.
이 때 탐학한 관리들이 농민을 수탈함을 목격하고, 이를 해결하기 위해 1861년부터 감사와 현감에게 여러 차례 편지를 보내 농민들의 억울한 사정을 호소하였다. 그러나 이러한 호소가 전혀 받아들여지지 않자 아버지와 함께 농민들을 지도하여 부정한 현감과 이서들을 축출하였다. 이로 인해 김인섭은 의금부에서 신문을 받고 풀려났으나, 아버지는 전라도 영광의 임자도(荏子島)에 1년간 유배되었다.
1864년(고종 1) 다시 사헌부지평에 임명되었으나 곧 체직(遞職)되었다. 민란 이후 새로 부임한 현감과 서리들의 모함을 받기도 하였으나 정원용(鄭元容)의 도움으로 화를 모면하였다. 1867년에는 어사 박선수(朴瑄壽)에 의해 무단토호(武斷土豪)로 지목되어 강원도 고성(高城)·통천(通川)으로 유배되었다가 다음 해에 풀려났다.
1882년 단성 향교의 강장(講長)에 추대되었고, 1894년 사간원헌납(司諫院獻納), 1902년 통정에 올랐다.
또한 박치복(朴致馥)·허훈(許薰)·허유(許愈) 등과 『성재집(性齋集)』을 교정하였으며, 진양군 집현산(集賢山)에 대암정사(大嵒精舍)를 짓고 많은 제자를 가르쳤다.
저술로는 『단계문집(端磎文集)』 28권, 『단계일기(端磎日記)』 53년분 53책, 『언행유편(言行類編)』·『이동자변(異同字辨)』·『기아초선(箕雅抄選)』·『관동일록(關東日錄)』·『유산록(遊山錄)』·『대암잡지(大嵒雜誌)』·『두류만록(頭流漫錄)』·『회암출처편록(晦庵出處編錄)』·『일월행도기(日月行道記)』·『춘추대강(春秋大綱)』 등이 있다.