대한불교조계종 제14교구 본사인 범어사(梵魚寺)의 산내암자이다. 자세한 역사 및 창건연대 등은 전하지 않으나, 원효(元曉)가 창건하여 머물면서 왜병을 물리쳤다는 설화가 전해오고 있다. 이 암자 바로 뒤의 바위가 원효대(元曉臺)로서, 이곳에 올라서면 양산 천성산의 원효암이 보인다. 원효암 좌측에는 의상대(義湘臺)가 있다.
현존하는 당우로는 관세음보살을 모신 법당과 심검당(尋劒堂) · 요사채 등이 있으며, 그 규모가 암자로서는 큰 편이다. 법당에 모셔진 보살상은 원래 도둑을 맞아 일본까지 건너갔다가 보살상의 현몽(現夢)에 의해 다시 이곳으로 돌아온 것으로, 영험이 뛰어나다고 한다. 또한, 1950년대에 이 암자의 우물에서 원효대사의 것이라고 전하는 옥돌의 도장이 발견되어 현재 범어사에 보관되어 있다.
이 밖에도 이 암자에는 삼층석탑 2기와 고승들의 사리부도, 방광탑(放光塔) 등이 있다. 이 가운데 1972년 부산광역시 유형문화재(현, 유형문화유산)로 지정된 원효암 서편 삼층석탑은 높이 2.33m로 신라 말의 작품으로 추정되며, 1972년 부산광역시 유형문화재로 지정된 원효암 동편 삼층석탑은 높이 1.9m로서 고려 때의 작품으로 추정되고 있다.