1923년 간토 대지진 직후의 혼란을 막기 위해 공포된 긴급칙령이 전신이다. 일본제국은 1925년 4월 12일 공포되어 동년 5월 12일 시행했다. 칙령에 의해 조선, 타이완, 사할린에서도 시행되었다. 보통선거법과 거의 동시에 제정되어 당근과 채찍의 관계에 비유되기도 하는데, 보통선거 실시에 의한 정치 운동의 활성화를 막기 위한 의도가 숨어 있었다. 1917년의 러시아 혁명의 영향을 받아서 활발해진 일본 내 공산주의운동을 억압하려고 했던 목적도 있었기 때문에, 공산주의 금지의 목적 외에도 사회주의나 노동운동 역시 경계의 대상으로 여겨져 많은 활동가들과 운동가들이 치안유지법에 의한 탄압을 받았다.
치안유지법은 전문 및 7개 조항으로 이루어져 있었고, 그 제1조에서 국체의 변혁 또는 사유재산제도의 부인을 목적으로 하는 결사의 조직 및 가입 그리고 목적 수행을 위한 행위자를 처벌했다.
치안유지법 제1조에 따르면 “국체(國體)를 변혁하고 또는 사유재산제도를 부인하는 것을 목적으로 하여 결사를 조직하거나 또는 그 정(情)을 알고서 이에 가입한 자는 십년 이하의 징역 또는 금고에 처함.”이라고 되어있다. 여기서 ‘사유재산제도의 부인’으로 이 법이 사회주의운동을 겨냥한 내용이라고 볼 수도 있지만, 조선총독부 및 사법부는 ‘국체의 변혁’이라는 요건을 ‘조선의 독립을 목적으로 하는 것은 제국주권의 존립에 관한 사항으로 국체의 변혁을 목적으로 하는 것’이라고 해석하고 모든 독립운동을 처벌하는데 치안유지법을 적용하였다.
치안유지법은 제2조부터 5조까지 제1조의 목적 사항의 실행에 대하여 협의하거나 선동한 자 및 재산상의 이익을 공여한 자를 처벌하는 규정을 두고, 제7조에서는 국외에서의 행위도 처벌하도록 하였다. 일제는 치안유지법을 수단으로 내세우고 한민족의 사상을 통제하였을 뿐만 아니라 사회주의, 무정부주의, 독립운동 등 일체의 민족운동을 탄압하였다.
그리고 일제는 치안유지법의 실시를 위해 사상탄압을 전문으로 하는 고등계경찰과 사상검사가 배치되고 중앙정보위원회가 설치하고, 일본보다 조선에서는 법률의 적용과 조문의 해석을 가혹하게 하여 위반자들을 엄벌하여 위하의 효과를 극대화하고자 했다.
이 법률의 첫 적용을 받은 것은 조선공산당이었으며, 1930년대 초, 군사정권의 탄압으로 일본공산당원들이 우익(국가사회주의)으로 전향하는 등 일본 내 좌파 운동이 거의 궤멸당한 후로는 신흥 종교의 단속에 이용되기도 했으며, 1940년대에 들어오면서는 한국의 민족독립운동에 대한 탄압에 악용되었다.
1925년 제정되었을 때는 최고 10년 이하의 징역 또는 금고의 처벌이던 조항이, 1928년 개정되면서 최고 사형까지 가능하도록 크게 강화되었다. 또 태평양 전쟁 직전인 1941년 3월 10일, 그때까지 7조에 불과했던 법률 조항이 전면적으로 개정되면서 전 65조의 새로운 치안유지법(昭和 16, 법률 제54호)이 공포되어 동년 5월 15일부터 시행되었다. 이에 의해 처벌은 더욱 강해졌으며 더불어 ‘예방구금제도’도 도입되었다.
종전 후 1945년 10월 4일, 연합군 총사령부의 인권지령 ‘정치적, 공민적, 종교적 자유에 대한 제한의 제거에 대한 사령부 각서’에 의해 폐지를 명령받아, 동년 10월 15일 ‘쇼와〔昭和〕20년 칙령 제 575호’로 폐지되었다.
일제가 독립운동을 처벌하는 데 이용하였던 법으로는 보안법,집회취제령,제령 제7호, 치안유지법 등이 있었다. 그러나 일제는 단순히 집회 등만을 처벌하는 것이 아니라 독립운동 단체 조직 등에 대해서도 대응할 수 있는 수단이 필요했다. 이러한 법률을 제정하기 위한 조선총독부의 움직임이 있던 당시에, 일본에서 1925년 사회주의 운동을 억압하고 일제의 식민통치체제를 유지하기 위하여 사상통제법으로치안유지법을 제정하였다. 조선총독부는 이 법을 이용해서 해방 전까지 거의 대부분의 독립운동 관련자들은 치안유지법위반으로 처벌했다. 그런 의미에서 치안유지법은 일제 식민통치의 가장 강력한 무기였다고 할 수 있다.