1812년(순조 12)에 지방유림의 공의로 백문보(白文寶)와 백현룡(白見龍)의 학문과 덕행을 추모하기 위하여 창건하여 위패를 모셨다.
당시의 경내건물로는 경덕사(景德祠)·운산당(雲山堂)·신문(神門)·직방재(直方齋)·박약재(博約齋)·입도문(入道門)·전사청(典祀廳)·주소(厨所) 등이 있었다. 선현배향과 지방교육의 일익을 담당하여 오던 중 대원군의 서원철폐령으로 1868년(고종 5)에 훼철되었으며, 지금은 운산서당(雲山書堂)으로 개편되었다. 운산서원의 강당이 2005년 6월 경상북도 문화재자료로 지정된 바 있다.