신라시대 원효(元曉)가 흥국사(興國寺) 등과 함께 창건한 절이라 하나, 그 뒤 중창 및 중수의 역사는 전하지 않고 있다.
다만, 고려 현종 때 이 절 등의 승려들이 쌀로써 술을 빚어 처벌을 받았다는 기록이 『고려사』에 전하며, 6·25 때 불탄 뒤 1960년에 중건하였다. 현존하는 당우로는 대웅전과 선실(禪室), 요사채가 있다.
대웅전 위쪽 30m 지점에 1979년 보물로 지정된 높이 3m의 서울 삼천사지 마애여래입상이 있다. 이 마애불은 통일신라시대 작품으로 추정되며 양각과 음각을 함께 섞어 조각하여 선을 잘 살린 매우 우수한 작품이다. 또한, 이 절에는 오래된 큰 석조(石槽)와 고려시대 이영간(李靈幹)이 쓴 비명(碑銘)이 있다.