뉴욕한인교회는 1921년 4월 28일에 공식 창립되었다. 뉴욕의 한인들은 당초 매디슨 애비뉴(Madison Avenue) 감리교회를 빌려 예배를 보기 시작하다가 감리교단의 재정 지원을 받아 맨하탄 시가(459 West 21 St.)에 독자적인 건물을 마련했다. 이때 “Korean Church and Institute"라는 명칭이 붙여졌는데, 그것은 신앙공동체이자 한인들을 대표하는 기관이라는 의미를 담고 있었다.
1927년 10월 교회는 허드슨 강변에 위치한 지금의 자리(633 West 115th St.)로 이전했다. 이곳은 콜럼비아대학의 정문 바로 앞쪽이었다. 이때의 장소 이전은 교회 내에서 유학생들의 비중이 커지고 있었음을 말해준다. 이후 교회는 뉴욕 내 한인민족운동의 거점이자 유학생들과 정치적 망명자들의 임시거처가 되었다.
1920년대 중반 북미대한인유학생총회의 기관지인 『우라키(The Rocky)』의 발행과 태평양전쟁기 ‘미주동부대한부인회’의 발족 등이 교회와 밀접한 관련을 맺고 있었다.
해방 이전 뉴욕 거주 한인들은 100명 내외였고, 그 가운데 상당수가 유학생이었다.
현재의 교회 건물 외형은 1920년대 후반의 모습을 유지하고 있다.