한국불교태고종에 속한다. 신라 때 원효(元曉)가 좌선하면서 창건하였다는 설도 있으나, 조선 숙종 때 승병장 성능(聖能)이 원효를 기리기 위하여 창건하고 원효암이라고 하였다는 것을 정설로 보고 있다.
그 뒤 북한산성을 지키는 승병이 머무르는 사찰로 전승되었으며, 1734년(영조 10) 2월에 실화(失火)로 불타버린 뒤 곧바로 중건에 착수하였고, 1938년에 주지 영운(泳雲)과 그의 제자들이 법당을 중건하였다. 6·25 때 다시 불탄 뒤 비구니 월해(月海)가 중건하여 오늘에 이르고 있다.
당우로는 대웅전과 산신각 · 요사채 등이 있으며, 특기할 만한 국가유산은 없다. 산신각 근처의 바위에서는 석간수(石澗水)가 나오는데 뒷바위가 코끼리상을 하고 있고, 이 물은 그 앞가슴의 젖줄에 해당된다고 한다. 절에서 10분 가량 오르면 원효가 좌선하였다는 원효대가 있다.