본관은 순천(順天). 호는 한석당(閑碩堂). 박숙정(朴淑貞)의 증손으로, 할아버지는 박원상(朴元象)이고, 아버지는 목사(牧使) 박안생(朴安生)이며, 어머니는 김휴(金休)의 딸이다. 아들이 사육신의 한 사람인 박팽년(朴彭年)이다.
1417년(태종 17) 생원시에, 1423년(세종 5) 식년 문과에 장원, 1427년 문과 중시에 을과로 급제하였다. 그 해 집현전수찬(集賢殿修撰), 1428년 시강원보덕(侍講院輔德), 그 뒤 사간·승지 등을 차례로 역임하였다.
1442년 전라도관찰사, 1451년(문종 1) 경기도관찰사 등 외직으로 나갔다가 1452년(단종 즉위년) 내직으로 돌아와 공조참판이 되었다. 그 해 사은부사(謝恩副使)로 명나라에 다녀온 뒤 수문전대제학(修文殿大提學)이 되었다. 이어서 청렴하고 강직한 성격이 널리 알려져 당시 정승인 황보인(皇甫仁)·김종서(金宗瑞)·정분(鄭芬) 등의 추천으로 대사헌이 되었다.
이듬해인 1453년 예문관대제학·공조판서 겸 집현전제학을 거쳐 형조판서가 되었다. 대사헌과 형조판서로 있을 때에는 국법 집행이 엄정하기로 이름이 높았다. 1455년(세조 1) 세조가 어린 조카인 단종의 왕위를 빼앗아 차지하자 크게 통분해 벼슬을 내놓겠다는 뜻을 밝히고 조정에 나가지 않았다. 이에 세조는 박중림에게 이조판서를 주어 회유했으나 끝내 사양하였다.
세조는 노해 박중림을 한직인 지중추원사(知中樞院事)에 임명하였다. 그러나 세조 찬위(簒位: 왕위 자리를 빼앗음)에 크게 통한을 품어오던 박중림은 아들 박팽년과 박중림의 가르침을 받은 성삼문(成三問)·하위지(河緯地) 등 집현전 학사들이 중심이 되어 은밀히 추진하던 단종복위운동에 가담하였다.
그러나 김질(金礩)의 밀고로 실패로 돌아가자 박중림도 사육신과 함께 잡혀 그 달 8일에 모두 군기감(軍器監) 앞길에서 능지처사(凌遲處死)당하고 아들 박인년(朴引年)·박기년(朴耆年)·박대년(朴大年) 등도 처형되었다.
그 뒤 1739년(영조 15) 신원(伸寃)되어 옛 관작이 회복되었으며, 1784년(정조 8) 예조판서 엄숙(嚴璹)의 상소에 따라 벼슬을 높여 좌찬성(左贊成)에 증직되었다. 1791년 단종 충신으로 뽑혀 어정배식록(御定配食錄)에 등재되었다.
장릉(莊陵: 단종의 능)의 충신단(忠臣壇) 정단(正壇)에 배향되고, 공주의 동학사 숙모전(肅慕殿)에 제향되었다. 시호는 문민(文愍)이다.