1894년 갑오경장 때 좌우포청을 합쳐 경무청(警務廳)을 설립하여 내무아문(內務衙門)에 소속시키고 경무사(警務使)로 하여금 감옥 사무를 관장하게 하는 동시에 종래의 전옥서(典獄署)를 감옥서로 개칭하고 <감옥규칙>을 새로이 제정하였다.
처음에는 경무청의 감옥담당관리로 감금(監禁)·부감금·감수(監守)·감금서기 각 1인, 그리고 압뢰(押牢) 10인을 두었다. 1895년 4월 이를 고쳐 감옥서장(監獄署長), 감옥서기 2인, 간수장(看守長) 2인을 두었으며 동시에 각 지방에도 감옥서를 설치하였다.
1898년 1월 <감옥세칙>을 제정하고, 1900년에는 경무청을 경부(警部)로 독립시키고, 감옥서장으로 하여금 내부 대신의 명을 직접 받아 한성감옥을 관장하게 하고 간수장과 주사를 두었다. 1901년 경무청 제도로 복귀시키고 감옥서 의사 2인을 더 두었다.
감옥서의 소관 사무는 ① 재감인(在監人) 출입명부·소원(訴願)·급여품·투입물(投入物)·소지품에 관한 사항 ② 재감인의 작업에 관한 사항 ③ 재감인의 계호(戒護)·서신·접견에 관한 사항 ④ 재감인의 행장(行狀)과 상벌에 관한 사항 ⑤ 범죄인의 형집행시의 비품용구에 관한 사항 ⑥ 문서의 편찬·보존·통계에 관한 사항 등이다. 이상과 같은 직제나 소관 사항 및 관제 용어는 모두 일본인 고문관의 관여 하에 입안된 것이었다.
감옥에 관한 사무는 1907년 12월 칙령에 의하여 법부의 소관으로 옮겨지고, 지방에 있던 부·군의 감옥은 폐지되었다. 이 때 감옥서의 명칭은 ‘감옥’으로 바뀌고 직제도 전옥 9인, 간수장 54인, 감옥의 12인, 통역 9인, 간수와 여취체역(女取締役) 약간 명으로 개편되었다.