대한불교법화종에 속한다. 1321년(충숙왕 8)에 창건하여 ‘대흥사(大興寺)’라 하였으나 창건자는 미상이다. 그 뒤 조선 영조 때 폐사가 되었으며, 1930년에 장우(長雨)가 초막 4칸을 세우고 백운사라 하였다.
1933년에 아산 봉국사(奉國寺) 승려 송제윤(宋齊潤, 1880∼1955)이 이 절을 인수하여 법당 3칸을 신축하였고, 1956년에는 법당을 보수하였으며, 1960년에 화재로 전소되자 명현(明鉉)이 곧 중창하였다. 효각(曉覺)이 1990년에 도로를 포장하고 1994년에 약사전 · 산령각 · 용왕궁을 짓고 관음보살입상을 봉안하였다. 1999년에는 나한전과 4층으로 된 현대식 요사를 신축하여 오늘에 이르고 있다.
대흥사가 폐사가 된 것은 영조 때 승려들이 힘자랑을 하다가 살인을 하였기 때문에 절을 철거하였다고 하며, 이 절 동쪽에 있는 승니골(僧尼谷)은 여승들이 기거하였던 곳이라고 한다. 현존하는 당우로는 약사전과 나한전 · 산령각 · 용왕궁 · 범종각 · 요사채 · 객실 등이 있다.
유물로는 법당 뒤 칠성바위에 1941년에 조각한 칠성불(七星佛)을 비롯하여 1942년에 조각한 높이 3m의 불상과 산신상(山神像), 법당 뒤 바위의 미륵불상, 1966년에 발견된 높이 17㎝의 석조여래좌상 1구가 있다.
이 밖에도 1941년에 발견된 높이 15㎝의 금동여래입상과 1952년에 발견된 높이 10㎝의 철제여래좌상이 있었으나 뒤에 없어졌다. 특히, 이 절에는 5기의 부도가 있다. 1기는 1955년 송운재가 건립한 것이며, 나머지 4기는 대흥사지의 산제당골(山祭堂谷)에 있던 것을 옮겨 봉안한 것으로, 4기 중에는 고려시대의 작품으로 추정되는 것도 있다. 백운사 승탑군이 1997년에 충청북도 문화재자료(현, 문화유산자료)로 지정되었다. 이 절에는 또한 영수(靈水)로 불리는 약수가 있다.