대한불교조계종 제22교구 본사인 대흥사(大興寺)의 말사이다. 신라 때 원효(元曉)가 창건하여 관음사(觀音寺)라 하였고, 875년(헌강왕 1) 도선(道詵)이 중건하여 갈옥사(葛屋寺)라고 개칭한 뒤, 많은 승려들이 주석하였다. 905년(효공왕 9) 선각(禪覺)이 3창하였다.
1407년(태종 7)무위사가 천태종(天台宗) 17자복사(資福寺) 중의 하나가 되었다. 1430년(세종 12) 극락전을 지었는데, 이 건물은 현재도 남아 있다. 1555년(명종 10) 태감(太甘)이 4창하면서 무위사라 하였다.
이때의 당우는 본절이 23동, 암자가 35개로 모두 58동에 이르는 대찰이었으나, 그 뒤 화재 등으로 규모가 크게 축소되었다. 당우는 최근까지만 해도 극락전 · 명부전과 요사채 뿐이었으나 1678년(숙종 4)에 극락전 앞에 괘불대를 조성하였고, 1739년(영조 15)에는 해초(海超) · 극잠(克岑) 등이 전각을 보수하였다.
1975년 벽화보존각(壁畵保存閣)과 해탈문(解脫門) · 봉향각(奉香閣) · 천불전(千佛殿) · 미륵전(彌勒殿) 등을 중건하였으며, 1991년에 산신각을 짓고 1995년에 동쪽 요사를 증축하여 오늘에 이른다. 이 중 극락보전은 1962년 국보로 지정되었는데, 벽에는 29점의 벽화가 있었으나 지금은 본존불 뒤의 가로 4m, 세로 7m 크기의 후불탱화만이 남아 있고, 28점은 보존각에 보관되어 있다.
이 벽화들은 법당이 완성된 뒤 찾아온 한 노거사(老居士)가 49일 동안 이 안을 들여다보지 말라고 당부한 뒤 그렸다는 전설이 있다. 49일째 되는 날, 주지가 문에 구멍을 뚫고 들여다보니 파랑새 한 마리가 입에 붓을 물고 마지막으로 후불탱화의 관음보살 눈동자를 그리고 있었는데, 새는 인기척을 느끼고 어디론가 날아가 버렸다고 한다. 지금도 후불탱화의 관음보살상에는 눈동자가 없다.
이 밖에도 선각대사탑비는 1969년 보물로 지정되었고, 그 옆에 1984년 전라남도 문화재자료(현, 문화유산자료)로 지정된 무위사 삼층석탑은 석탑형식을 취한 보기 드문 부도이다. 또한 미륵전 안에는 고려 말기의 것으로 추정되는 석불입상이 있다.