1887년 9월 27일 14명의 신자가 목사인 언더우드(Underwood,H.G., 元杜尤)의 사랑방에서 장로 두 사람을 선정하여 설립되었다. 감리교는 그해 10월에 설립되었으므로 한국 개신교 최초의 조직교회라고 할 수 있다. 반면, 황해도 장연의 솔내[松川]교회는 최초의 미조직교회이다.
14명의 교인 중 13명이 전도사 서상륜(徐相崙)에 의해 입교한 의주사람들이었기 때문에 민족교회적인 성격이 강했다. 이 교회 안에서 경신학교(儆新學校)가 고아학교의 형식으로 출발하였다. 최초의 시무목사는 언더우드였고, 한국인 목사가 부임한 것은 1920년 11월차재명(車載明)이 목회를 시작할 때부터이다.
서울과 인근 경기도 여러 곳에 교회를 설립하여 모교회(母敎會)로서의 위치를 굳혔다. 그러나 서북지방과 장로교의 밀착으로 인해 교권을 둘러싼 남북 갈등이 발생하자 서북 편을 들어 서울 지역 교회들과 긴장을 가져온 일도 있었다. 하지만 처음부터 에큐메니컬 정신에 투철하였고, 사회와의 관계에서 항상 융합적인 선교자세를 취하였다.
광복 이후 모든 교파를 망라한 한국기독교회의 형성을 위한 회합을 열 때 주도적인 구실을 하였으며, 최현배(崔鉉培)·홍난파(洪蘭波)·정인과(鄭仁果)를 비롯한 저명한 학계·종교계 인사들을 배출하기도 하였다.
1981년 창립 100주년을 앞두고 사업계획을 설립, 원일한·이한준·노정현·어윤배 등 11명의 교인을 필두로 100주년 기념사업준비위원회를 조직하였다. 이후 선교사업, 역사편찬사업, 새문안 수양관 건립, 새문안 경로원 설립, 새문안 시민도서관 개관, 교회건물의 보수사업 등을 선정하여 추진했고, 1987년 9월 27일 새문안교회 100주년 기념예배를 가졌다.
역대 목사로는 언더우드·쿤즈(Koons,E.W.)·차재명(車載明)·김영주(金英珠)·최화정(崔華禎)·강태국(康泰國)·강신명(姜信明)·김동익(金東益) 등이 있다. 2009년 현재 6대 목사로 이수영 목사가 재직 중이며, 부설기관으로 새문안교회 음악교육원, 새문안복지재단, 새문안교회 사료관, 새문안 수양관, 새문안동산이 있다.