호는 초평(艸平). 평양 출생. 건축가 전창일(全昌日)의 영향을 받아 건축을 지망하게 되었다. 서울로 올라와 1941년 경성고등공업학교를 졸업하고 곧이어 조선총독부 영선계에 들어갔다.
그는 그곳에 근무하던 한국인 건축가 김세연(金世演), 김순하(金舜河), 장연채(張然采), 이용재, 유원준, 김재철 등으로부터 많은 영향을 받았다.
1948년 정부 수립이 되면서 퇴직한 뒤, 1953년 이천승(李天承)과 함께 ‘종합건축연구소’를 창설하였는데, 그것은 한국 현대 건축사에서 본격적 건축 설계 사무소의 출발점이 되었다.
종합건축연구소는 6·25사변이 끝난 직후부터 본격적 건축 업무를 시작하여 1957년 「국제극장」, 1958년「명동성모병원」, 1960년「종로 YMCA」, 「장충체육관」 등 일련의 시대사적 작품들이 그때에 이루어진 것들이다.
그는 그 작품들을 통해서 기능주의적이고 기계적인 구조 전문가의 태도를 보여주었고, 아울러 구조와 외관과의 관계를 솔직하게 표현, 경제적이며 합리적인 건물을 만들어 내는 성향도 보여주었다.
그러한 노력의 하나로 최초의 금속커튼월(curtain wall)도 도입하였으며, 피시(PC) 콘크리트를 제작, 보급하기도 하였다. 1957년에는 미네소타대학(Minnesota 大學)에 가서 미국의 현대 건축을 연구한 바 있다.
1961년 연세대학교 건축공학과에 교수로 취임, 연세 건축의 뿌리를 내린 데 일익을 담당하였다. 종교 건축에 관한 많은 논문을 발표하여 1972년에는 대한건축학회 회장이 되었고, 1975년에 연세대학교에서 공학박사학위를 받았다.
주요 작품으로는 「여의도국회의사당」(1969∼1975, 설계진 대표), 연세대학교 캠퍼스 건물 일부 등이 있다. 죽은 뒤 초평건축상이 제정되었다.