평안남도 강서(江西)출생. 그는 대부분의 건축가들이 국내 또는 일본·중국 등지에서 건축교육을 받을 때 홀로 미국에 건너가 미국식 신건축교육을 정규대학코스에서 정통으로 배운 유일한 사람이다.
따라서, 그의 국내에서의 건축활동은 풍토상·학문상 기반이 달랐기 때문에 크게 이루어지지 못하였다. 그는 평양에서 숭실중학을 졸업한 후, 다시 서울로 와서 연희전문학교 수물과(數物科)를 다녔다.
그 때 일제에 항거, 구국활동을 하다가 쫓기어 중국 상해로 건너갔으나 뜻을 다시 세워, 1917년 미국으로 가게 되었다.
처음에는 루이스공과대학(Lewis工科大學)에서 기계공학을 전공하였으나, 곧 미네소타주립대학으로 옮겨 새로이 건축학을 배워 1927년 한국인으로서는 최초로 공학사 학위를 받았다.
졸업 후 시카고의 건설회사에 근무하였으나 연희전문학교 교수로 초빙되어 귀국하였다. 1933년에는 안국동에 박인준건축설계사무소를 개설하고(朴吉龍보다 1년 늦음.) 독자적인 건축활동을 해나갔다.
그러나 일본인과는 거부관계였으므로 그의 고객은 제한되었고, 기독교계통·개인주택 등에 몇몇 작품을 남길 수밖에 없었다.