신종교라는 용어는 이전의 기성 종교와의 관련하에서만 쓰일 수 있는 개념으로, ‘새롭다[新]’는 성격은 시대와 상황에 따라 변화된다.
또한 ‘새롭다’는 의미는 한편으로 별로 기반이 없고 정교화되지 못하다는 뜻과, 다른 한편으로는 새로운 호소력과 적합성을 지니고 있다는 뜻의 양가성을 가지고 있다.
이와 같이 신종교는 기성 종교와 마찬가지로 일정 수준의 신도수·교단조직·교리체계·제의체계 등을 갖추고 있으면서도 성립시기가 짧기 때문에 아직 사회적으로 완전하게 인정받지 못한 종교이다.
흔히 신흥종교(新興宗敎)라고 일컬어져 왔으나, 그 용언에 함축된 경멸적이고 이탈적인 의미 때문에 이제는 보다 중립적이고 객관성을 띤 신종교라는 용어가 일반적으로 사용된다.
그러나 일부 학자들은 19세기 말∼20세기 초의 한말·일제강점하에서 발생되었던 종교운동과 1960년대 이후 도시화·산업화와 더불어 급격히 성장한 종교운동의 성격을 구분하여 각각 신흥종교·신종교로 개념화하기도 한다.
흔히 신종교의 특성으로서 교리혼합주의(敎理混合主義, syncretism), 기존 질서에 대한 부정적 관점, 현세적 지상천국 건설, 선민사상(選民思想), 종말론(終末論)의 강조, 교조의 신비체험과 카리스마(charisma)적 성격, 신도집단 내의 강렬한 연대의식 등이 지적되고 있으나 이러한 특성들은 결코 신종교에만 국한되어 나타나는 것이 아니며, 나타날 경우에도 중층적으로 복합된 양상을 띤다.
또한 일반적으로 열거되고 있는 신종교의 특성들은 대개 신종교의 열등성과 반사회성을 부각시키기 위해 제시되는 경향이 강하다.
예컨대, 교리혼합은 신종교의 성격을 논할 때 항상 거론되는 것인데 잡종이나 혼성물이 아닌 순수한 종교사상이 존재한다는 전제하에서만 언급될 수 있으므로 그 타당성이 의문시되며, 신종교의 창조적 측면이 완전히 무시되어 버린다는 심각한 문제점을 지닌 개념이다.
따라서 신종교를 객관적으로 이해하기 위해서는 이미 신종교에 부여되어 있는 기존의 관점이나 개념에 대한 철저한 비판작업이 선행되어야 한다. 왜 신종교가 생겨났느냐에 대한 발생이론은 일반적인 종교발생이론과 같은 맥락을 지니고 있다.
그러나 종교 기원의 문제처럼 추상적 차원에서 일반화시켜 설명해 버리는 것이 아니라 개개의 경우에 나타나는 구체적인 원인을 파악하려는 것이 최근의 연구 경향이다.
제시되어 있는 신종교의 주요 발생 원인은 사회·정치·경제적인 아노미(anomie) 상황, 상대적 박탈감, 전통적 가치관과 기성 종교의 설득력 상실, 문화접변(文化接變)에 따른 충격, 인간의 심리적·병리학적 반응 등으로 설명하고 있지만, 모두 나름대로의 문제점을 지니고 있다.
기성 종교가 제대로 기능을 수행하지 않았기 때문에 신종교가 발생했다는 입장은 동어반복적 성향을 지닌다는 점, 문화접변에 의한 설명은 영향을 주는 편과 받는 편을 지나치게 양분하여 받는 편의 수동성과 열등성을 드러내려고 한다는 점, 심리·병리적 요인에 의한 설명은 자율성을 띤 종교현상을 개인의 내부적 심리활동으로만 환원시켜 버린다는 점, 아노미이론은 너무 사회적 상황을 강조하며 설득력 있는 경험적 증거를 가지고 인과관계를 주장하지 못한다는 점, 상대적 박탈감이론은 너무 거대한 설명이기 때문에 구체적인 여러 발생 원인을 경험적으로 제시해 주지 못한다는 점 등이 그러한 문제점들이다.
따라서 신종교의 발생 원인을 파악하기 위해서는 다른 모든 현상까지 뭉뚱그려 설명할 수 있는 거대하고 추상적인 개념에 의지할 것이 아니라, 신종교 자체의 내적 구조와 역동적 과정을 주시하면서 개개의 구체적 원인을 찾아내는 작업부터 시작해야 한다.