1921년 11월 1일 지금의 자유공원(自由公園)에 있던 청광각(靑光閣)을 매입하여 창설하고 1922년 1월 6일 개관하여 인천부립도서관(仁川府立圖書館)이라 명명하였다. 1941년 4월 10일 구 경성지방법원 인천지청 청사를 개수하고 이전하였다가 1946년 11월 4일 율목동으로 이전하였다.
1949년 8월 인천부립도서관을 인천시립도서관으로 개칭하였고, 1981년 7월 직할시 승격, 1995년 1월 1일 광역시 출범에 따라 인천광역시립도서관으로 개칭하였다.
1962년 9월에는 신관을 신축, 개관, 1987년 11월 식당 신축, 1992년 5월 안내실을 신축하였으며, 도서관의 조직을 관장실 및 관리실·정리실·참고열람실·정기간행물실·연구실·향토자료실·청소년도서실·성인열람실·여자열람실·학생열람실·아동열람실·매표실 등에서 1997년 1월 9일 인천광역시립도서관직제규칙에 의거 관장 및 관리팀, 열람팀으로 개편하여 관장실·관리실·안내실·정리실·일반자료실·아동자료실·정기간행물실로 정비하였다.
창설 당시 900권이던 장서는 12만여 권에 이르고, 연간 20만여 명의 시민이 이용하고 있다. 1971년에는 한국과학기술정보센터에 회원으로 가입하여 사회교육기관으로서 최신 정보의 수집과 각종 자료를 수집·정리·보존하여 제공함으로써 인천시민의 문화향상에 기여하였다.
1976년에는 한말교과서 및 고서전시회를 개최하였고, 향토문화자료의 보존·관리를 통하여 선대 문화의 유산을 전승하며, 시민에게 향토문화에 대한 올바른 인식을 심고 애향심을 고취시키는 등 지역사회문화 발전에 기여하였다.
1961년 11월 1일 창립40주년 기념으로 『관지(館誌)』 창간호를 간행하였으며, 1981년 『장서목록』 제1집, 1984년 『장서목록』 제2집, 1997년 『책이 좋은 사람들』을 발간하였다.
2008년 12월 인천광역시 남동구 인주대로(구월동)에 인천광역시립도서관이 이전할 새 도서관이 준공됨에 따라, 2009년 6월 인천광역시립도서관이 인천광역시미추홀도서관으로 명칭을 변경하여 개관하였다.