조선 중기에 지방유림의 공의로 강응정(姜應貞) · 서익(徐益) · 양응춘(梁應春)의 충절과 덕행을 추모하기 위해 은진현 갈마동에 갈산사(葛山祠)를 창건하여 위패를 모셨다.
그 뒤 1713년경 현재의 위치로 이건하고 효암서원으로 개편하였으며, 김문기(金文起) · 김성휘(金成輝) · 양응춘 · 남준(南俊) · 김필태(金必泰)를 추가 배향하고 서익은 행림서원(杏林書院)으로 이관하였다. 선현배향과 지방교육의 일익을 담당하여 오던 중 대원군의 서원철폐령으로 1868년(고종 5)에 훼철되었다.
광복 후 유림의 발의로 각계의 도움을 받아 서원을 복원하였다. 경내의 건물로는 3칸의 사우(祠宇), 중앙의 신문(神門)과 양옆 협문(夾門)으로 된 삼문(三門), 고직사, 성종 친필의 ‘효자성균생원강응정지려(孝子成均生員姜應貞之閭)’라는 현판이 걸린 정려각 등이 있다.
사우에는 강응정을 주벽(主壁)으로 좌우에 김문기 · 김성휘 · 양응춘 · 남준 · 김필태의 위패가 배향되어 있다. 이 서원에서는 매년 3월과 9월 10일에 향사를 지내고 있으며, 제품(祭品)은 4변(籩) 4두(豆)이다.
1984년 충청남도 문화재자료(현, 문화유산자료)로 지정되었으며, 재산으로는 대지 250평, 전답 3,800평, 임야 3,000여 평 등이 있다.