1897년 3월 28일 평안북도 벽동에서 출생하였다. 박순도와 결혼하여 슬하에 2남을 두었다. 1978년 10월 25일 사망하였다.
대표적인 보수주의 신학자이다. 1916년 선천의 신성중학교를 마치고 1920년 평양숭실전문학교를 졸업한 뒤 1923년 중국 남경의 금릉대학(金陵大學)과 1926년 미국 뉴저지의 프린스턴신학교를 졸업하였다. 그 뒤에 켄터키주 루이스빌에 있는 남침례교신학교에서 기독교 변증학을 전공하여 박사과정을 수료하고, 1927년 귀국하였다. 곧 평양 산정현교회 전도사로 시작하여 목사 안수를 받았으며, 1931년에는 평양신학교 교수로 취임하였고, 1933년에는 남침례교신학교에서 철학박사학위를 취득하였다.
1930년대의 대표적인 신학적 보혁 논쟁인 1934년 창세기 모세 저작 부인 사건과 여권(女權) 논쟁, 1935년 아빙돈 단권 주석 사건에서 총회의 연구위원으로 보고서를 작성하여 진보적인 신학의 도전을 막아 내었다. 같은 해 장로회 총회의 표준 성경주석위원회 위원장을 맡아 9권의 성경주석을 편찬, 발간하였다.
1938년 6월 신사참배 거부운동으로 평양신학교가 폐쇄되자 일본 동경으로 피신하여 성경주석의 집필에 전념하다가 1942년 만주 봉천(奉天)으로 옮겨가 동북신학교의 교수와 교장직을 역임하였다. 1947년 7월까지 그 일을 계속하다가 고려신학교 측에서 파견된 목사 송상석(宋相錫)의 요청으로 귀국하여 10월부터 고려신학교 교장으로 취임하였다. 그러나 학교 설립자 한상동 목사와 학교 운영에 대한 입장을 달리하며 마찰을 일으키다 6개월 만에 사임하였다. 그의 사임은 고려신학교의 지역적 기반이던 경남노회의 친일전력 목사 대 출옥 성도 간의 갈등이 재점화되는 빌미가 되었으며 1952년 장로교회 분열의 시작인 고려파 분열로 이어졌다.
1948년에는 서울 남산에 장로회신학교를 세우고 초대 교장을 맡았다. 이후 1953년 예장-기장 분열, 1959년 예장 통합-예장 합동 분열 때에 신학교의 교장으로서 신학적으로는 자유주의와 신정통주의 신학을 억누르고 정치적으로 반공주의를 강화하면서 분열에 연루되었다. 이 과정에서 박형룡 자신의 신학도 근본주의적 색채가 강화되었다.
선교사들로부터 배운 보수신학을 철저히 지키려고 하였기 때문에 처지를 달리하는 사람들과의 갈등으로 인해 교단 내부에 많은 문제가 야기되기도 하였다. 1972년 은퇴한 뒤로는 서울 관악구 봉천동 자택에서 저작집 원고 정리 등 저술에만 전념하였다.
50여 년의 신학 활동에 일관되게 흐르는 그의 사상은 칼뱅주의적인 신앙을 고수하는 보수주의적 정통 신학이다. 20여 권의 저서와 100여 편의 논문은 보수주의적 신학의 입장에서 자유주의적 · 합리주의적인 신학 사상을 반박하여 성경의 무오성(無誤性)과 문자적 영감을 확고히 하려는 것이었다. 그 결과 명실상부한 한국 기독교 보수주의 신학의 거두로 인식되고 있다. 『신학난제선평(神學難題選評)』과 『교의신학(敎義神學)』이 주요 저술로 손꼽힌다.