대한불교조계종 제16교구 본사인 고운사(孤雲寺)의 말사이다. 통일신라시대 진정(眞定)이 창건한 화엄종 절로서 신라 말에는 소백산사(小白山寺)라고도 불리었다.
가난으로 인하여 장가도 들지 못한 채 홀어머니를 봉양하던 진정은 의상(義湘)이 태백산에서 많은 사람들을 교화한다는 소문을 듣고 출가하여 의상의 문하에서 화엄학을 공부하였다. 3년 뒤 어머니가 죽었다는 소식을 듣고 7일 동안 선정(禪定)에 들었다가 그 소식을 의상에게 전하였다.
진정의 지극한 효성에 감동한 의상은 그의 어머니를 위하여 문도를 거느리고 소백산 추동(錐洞)으로 가서 초가를 짓고 제자 3,000명을 모아 90일 동안 『화엄경』을 강의하였다. 강의가 끝나자 그 어머니가 꿈에 나타나, “나는 벌써 하늘에 환생(還生)했다.”고 하였다 한다.
학계에서는 이때의 소백산 추동이 비로사였던 것으로 추정하고 있다. 「비로사사적기」에는 의상이 683년(신문왕 3)에 이 절을 개창하고 비로사라고 하였다고 기록하고 있다.
신라 말에는 한 승려가 중창하고 진공(眞空)을 청하여 이곳에서 살게 하였는데, 그 때 고려 태조가 방문하여 법문을 듣고 대사를 매우 존중하였다. 그가 937년(태조 20)에 이 절에서 입적하자 태조는 진공대사라는 시호와 함께 보법(普法)이라는 탑호(塔號)를 내려주었다.
1126년(인종 4)에는 왕이 김부식(金富軾)으로 하여금 불아(佛牙)를 이 절에 봉안하도록 하였고, 1385년(우왕 11)에는 환암(幻庵)이 중창하였다.
세조 때에는 복전(福田) 5명을 두어 『화엄경』을 강의하게 하였고 1469년(예종 1)에는 김수온(金守溫)이 왕실의 복을 비는 도량으로 삼았다.
임진왜란의 병화로 인해 석불상(石佛像) 2구만이 남고 모두 불타버렸으며, 1684년(숙종 10)에 월하(月河)가 법당과 산신각 등 40여 칸을 중창하였다.
1907년 법당을 제외한 모든 건물과 사지(寺誌)가 화재로 소실되었다. 1919년에 주지 범선(泛船)이 법당을 중수하였고, 1927년에는 요사를 중건하였으며, 1932년에 다시 법당을 중수하였다.
이 절은 계단식으로 된 전형적인 산간사찰(山間寺刹)로서 현존하는 당우로는 새로 지은 법당과 요사채뿐이다.
그러나 1972년 경상북도 유형문화재(현, 유형문화유산)로 지정된 진공대사보법탑비와 영주삼가동석조당간지주, 그리고 1989년 보물로 지정된 영주비로사석아미타불 및 석비로자나불좌상 등 신라 말 고려 초의 중요한 유물들이 남아 있다.
최언위(崔彦撝)가 짓고 이환추(李桓樞)가 글씨를 쓴 진공대사보법탑비는 939년(태조 22)에 세워진 것인데, 특히 비신(碑身)의 뒷면에 입적할 때의 유계(遺誡)를 새긴 것이 특징이다.
9세기 후기의 양식을 보여주고 있는 비로자나불상과 아미타불상은 현재 법당 안에 있지만, 광배(光背)는 깨어진 채 요사채의 우물가에 있으며, 대좌(臺座)는 법당 앞뜰에 놓여 있다. 그러나 현재 대좌 1구, 광배 1구가 있어 비로자나불상만은 복원이 가능한 편이다.
2012년 경상북도 유형문화재로 지정된 영주 비로사 아미타후불탱화는 화기(畵記)를 통해 1832년(道光 12)이라는 제작연대와 화원(畵員)을 명확히 알 수 있다.
1572년(선조 5)에 『월인석보(月印釋譜)』가, 1573년에는 『수륙무차평등재의촬요(水陸無遮平等齋義撮要)』가, 1574년에 『묘법연화경(妙法蓮華經)』이 각각 판각되었다.