1905년 충청남도 강경에서 태어났다. 이후 연기군[현 세종시 연동면]으로 이주하여 박팔괘의 5촌 박덕수에게 처음 가야금을 배웠다. 13세 때인 1918년부터는 청주에 낙향한 박팔괘[당시 42세]에게 배웠다.
1938년부터 1949년까지 서울에서 심상건, 강태홍, 오태석, 정남희 등의 연주자들과 함께 활동하였다. 이 11년 동안 서울에서 조선성악연구회 기악부에서 활동하였으며, 현 국립국악원의 전신인 황성아악부의 촉탁 연주자로도 활동하였다. 왜소한 외모에 여기저기 바쁘게 활동하여 ‘왔다갔다 박상근’이라는 별명이 있었다.
방송 송출 기록에 의하면, 1939년에 산조 「진양, 중모리, 자진모리」, 병창 단가 「창랑가(滄浪歌)」, 창극조 「제비노정기」 등을 연주한 것이 그의 첫 연주 기록이다. 이를 보면 활동 초기에는 병창과 산조를 같이 연주하였음을 알 수 있다. 그런데 당시 방송국에 재직했던 장사훈과 한 인터뷰를 보면, 1947년쯤에는 산조에만 전념하고 있었다. 일제 치하에서 그들이 강요하는 가사로 노래하기 싫어서 악기만 다루었다고 한다.
1949년 서울 을지로4가에서 대한음악무용연구회라는 개인 교습을 위한 연구소를 최초로 개설하였다. 가야금산조와 국악 보급에 앞장서다가 같은 해에 뇌빈혈(腦貧血)로 쓰러져 44세의 나이에 사망하였다.
박상근은 산조 1세대인 박팔괘를 사사(師事)한 산조 2세대로서, 충청제 박상근류를 완성하여 전승하였다. 충청제 가야금산조 박상근류는 진양, 중모리, 굿거리[늦은 중중모리], 중중모리, 자진모리, 휘모리, 단모리의 7개 악장으로 구성되었다. 충청제 가야금산조 박상근류의 가장 큰 특징은 다양한 전라도제 가야금산조들과 달리 3번째 악장인 굿거리가 있다는 것이다. 4번째 악장 중중모리가 전라도 산조의 중중모리와 같이 남도굿거리에 근거한 가락이라면, 3번째 악장 굿거리[늦은 중중모리]는 경기굿거리에 근거한 가락이다. 이것은 지리적으로 전라도와 경기도 사이에 위치하여 두 지역의 음악적 영향을 받은 충청도산조의 특징이라고 볼 수 있다. 박상근류라고 명명한 악보는 1963년 국악사양성소 교본 『박상근산조』, 1969년 국립국악원 발행 『한국음악』 3집 산조, 1971년 이재숙의 『가야금산조』가 있다.
박상근은 빠른 장단 연주에 뛰어났다. 다른 산조에 없는 늦은 중중모리[경기굿거리] 가락을 짜서 넣었고, 최초로 단모리 가락을 산조에 도입하여 창의적이고 독창적인 충청제 가야금산조를 완성하였다. 박상근의 연주 철학은 첫째, 공력(功力), 둘째, 독창성이다. 그리고 이 두 가지에 앞서 타인의 기량을 비방하지 않는 인간성이 제일이라는 생각도 가지고 있었다.