본 서원의 전신은 고려 말 풍산현에 있던 풍악서당(豊岳書堂)으로 풍산유씨(豊山柳氏)의 교육기관이었는데, 이를 1572년(선조 5) 유성룡이 현재의 위치로 옮겼다.
1613년(광해군 5) 정경세(鄭經世) 등 지방 유림의 공의로 유성룡의 학문과 덕행을 추모하기 위해 존덕사(尊德祠)를 창건였고, 이곳에 위패를 모셨다.
1620년(광해군 12)에는 유림의 공론에 따라 이황(李滉)을 모시는 여강서원(廬江書院)으로 유성룡의 위패가 옮겨지게 되었다. 그 뒤 1629년(인조 9) 별도로 유성룡의 위패를 마련하여 존덕사에 모셨으며, 그의 셋째 아들 유진(柳袗)을 추가 배향(配享)하였다.
1863년(철종 14) ‘병산(屛山)’이라고 사액(賜額)되었으며, 1868년(고종 5) 흥선대원군의 서원철폐령에도 훼철(毁撤)되지 않고 존속한 47개 서원 중의 하나이다.
경내 건물로는 존덕사·입교당(立敎堂)·신문(神門)·전사청(典祀廳)·장판각(藏板閣)·동재(東齋)·서재(西齋)·만대루(晩對樓)·복례문(復禮門)·고직사(庫直舍) 등이 있다. 묘우(廟宇)인 존덕사에는 유성룡을 주벽(主壁)으로 유진의 위패가 배향되어있다.
존덕사는 정면 3칸, 측면 2칸의 단층 맞배기와집에 처마는 겹처마이며, 특히 기단 앞 양측 8각 석주 위에는 반원구의 돌을 얹어놓은 대석(臺石)이 있는데, 이는 자정에 제사를 지낼 때 관솔불을 켜놓는 자리이다.
강당인 입교당은 중앙의 마루와 양쪽 협실로 되어있는데, 원내의 여러 행사와 유림의 회합 및 학문 강론 장소로 사용되었다. 입교당은 정면 5칸, 측면 2칸의 단층 팔작기와집에 겹처마로 되어 있으며, 가구(架構)는 5량(樑)이다.
신문은 향사(享祀)시 제관(祭官)의 출입문으로 사용되며, 전사청은 향사시 제수를 장만하여 두는 곳이다. 장판각은 민도리집 계통으로 되어있으며, 책판 및 유물을 보관하는 곳이다. 동재와 서재는 각각 정면 4칸, 측면 1칸 반의 민도리집으로 되어있으며, 유생이 기거하며 공부를 하던 곳으로 사용되었다.
문루(門樓)인 만대루는 향사나 서원의 행사시, 고자(庫子)가 개회를 알리는 개좌(開坐)와 폐회를 알리는 파좌(罷坐)를 외던 곳으로 사용되었다. 정면 7칸, 측면 2칸의 2층 팔작기와집에 처마는 홑처마로 되어있다. 그 밖에 만대루와 복례문 사이에는 물길을 끌어 만든 천원지방(天圓地方: 하늘은 둥글고 땅은 네모진 모양) 형태의 연못이 조성되어 있다.
이 서원에서는 매년 3월과 9월 중정(中丁)에 향사를 지내고 있으며, 제품(祭品)은 4변(籩) 4두(豆)이다. 1978년 사적으로 지정되었으며, 유성룡의 문집 등 1,000여 종 3,000여 책이 소장되어 있다.
병산서원은 2019년 7월 “한국의 서원(Seowon, Korean Neo-Confucian Academies)”이라는 명칭으로 다른 8곳의 서원과 더불어 유네스코 세계유산에 등재되었다.