대한불교조계종 제9교구 본사인 동화사(桐華寺)의 말사이다. 567년(진흥왕 28) 한 신승(神僧)이 창건하여 소작갑사(小鵲岬寺)라 이름했다고 한다.
이 신승은 557년 운문산에 들어와 지금의 금수동(金水洞) 북대암(北臺庵) 터에 초암을 짓고 3년 동안 수도했다. 그러던 어느 날 산과 골이 진동하여 새와 짐승이 놀라 우는 소리를 듣고 그 곳이 오령(五靈)이 숨어 사는 곳임을 알게 되었다고 한다.
이에 절을 짓기 시작하여 중심부에 대작갑사(大鵲岬寺 : 지금의 雲門寺), 동쪽에 가슬갑사(嘉瑟岬寺), 남쪽에 천문갑사(天門岬寺), 서쪽에 이 절인 대비사, 북쪽에 소보갑사(所寶岬寺)를 각각 지었는데, 역사가 다 끝난 시기가 567년이었다고 한다.
589년(진평왕 11) 원광(圓光)이 중창하였고, 대비갑사(大悲岬寺)로 이름을 바꿨다. 고려 인종 때에는 원응국사(圓應國師) 학일(學一)이 중창했다. 일제강점기에 대웅전을 중수했으며, 1950년 6.25를 전후하여 금천면민들의 성금으로 주지 응교(應敎)가 다시 대웅전을 중수했다.
산내 암자로는 도솔암(兜率庵)과 옥련암(玉蓮庵)이 있었으나 지금은 없다. 현존하는 건물로는 1985년 보물로 지정된 청도 대비사 대웅전과 요사채가 있다. 대웅전은 조선 중기의 것이다. 유물로는 많은 수의 부도들이 있는데, 이 중에는 소요 태능(逍遙 太能)과 취운 학린(翠雲 學璘) 등의 부도도 있다.