1903년 10월 28일 창설된 서울기독교청년회는 조직 당시부터 회관의 필요성에 따라 각국 외교관들과 실업가들을 포섭하여 청년회관 건립을 위한 자문위원회를 조직하였다. 이 위원회의 모금으로 1904년 종로대로 북쪽에 부지를 마련하였다. 1905년 개화파 인사였던 현흥택(玄興擇)이 이곳에 맞닿아 있는 자신 소유의 부지를 기증하였고, 나머지 필요한 부지는 미국 공사 모간(E. W. Morgan)이 기부한 기금으로 마련하였다. 1906년 6월 29일 대지에 대한 소유권 등기를 마치고 워너메이커(J. Wanamaker)가 제공한 건축비를 사용하여 1908년 회관을 완공하였다.
1907년 5월 중순 설계 및 감리에 돈햄(B. C. Donham), 공사는 헨리 장(Henry Chang)이 맡아 회관의 신축공사를 시작하였다. 11월 14일 대대적인 상량식을 거행하였는데, 이 자리에서 영친왕 황태자 이근(李根)은 ‘一千九百七年’이라는 여섯 글자를 내렸다. 정초석으로 사용된 이 글씨는 지금의 서울YMCA회관 중앙 출입구 벽면에 남아 있다. 1908년 12월 1일 개관식을 거행한 이 회관은 960평의 부지와 약 6백 평의 건물로 강단을 비롯하여 운동실, 교실, 도서실, 공업실습실, 식당, 목욕탕, 사진부, 사무소, 소년부 등의 다양한 시설을 갖추었다.
6·25전쟁으로 1950년 9월 27일 북한군에 의해 완전히 전소되었으나 1967년 4월 15일 현재의 모습으로 재건되었다. 현재 서울YMCA는 이 회관을 중심으로 청소년 운동, 시민운동, 사회체육 운동, 사회복지 운동, 평생교육 운동, 국제교류 및 협력운동 등 다양한 사업을 적극적으로 펼쳐나가고 있다.
서울기독교청년회관은 개화파 지식인과 청년들의 활동 근거지로 한국 교회 및 사회의 역사적 발전에 크게 기여하였다. 특히 일제하에는 항일운동과 계몽운동으로, 해방 이후에는 통일운동과 민주화운동 및 시민운동 등을 주도적으로 전개하였다는 점에서 높이 평가할 수 있다.