1812년(순조 12)에 지방유림의 공의로 백문보(白文寶)와 백현룡(白見龍)의 학문과 덕행을 추모하기 위하여 창건하여 위패를 모셨다.
당시의 경내건물로는 경덕사(景德祠) · 운산당(雲山堂) · 신문(神門) · 직방재(直方齋) · 박약재(博約齋) · 입도문(入道門) · 전사청(典祀廳) · 주소(厨所) 등이 있었다. 선현배향과 지방교육의 일익을 담당하여 오던 중 대원군의 서원철폐령으로 1868년(고종 5)에 훼철되었으며, 지금은 운산서당(雲山書堂)으로 개편되었다. 운산서원의 강당이 2005년 6월 경상북도 문화재자료(현, 문화유산자료)로 지정된 바 있다.