원래 1405년(태종 5) 육조의 기능 강화를 위한 관제개혁 때 형조 안에는 장금사(掌禁司)·도관사(都官司)·고율사(考律司)의 세 부서를 두었으나, 성종 초에 반포된 『경국대전』에는 상복사(詳覆司)·고율사·장금사·장례사(掌隷司)로 바꿨다.
이는 세종 때에 확립된 의금부삼복법(義禁府三覆法 : 사형죄는 재판의 신중을 위하여 세 번 심리를 하도록한 제도)과 관련하여 패역(悖逆)이나 강도와 같이 무거운 죄를 범하여 사형의 판결을 받은 자에 대하여, 그 죄를 재심할 필요성이 있어 설치된 것으로 보인다.
판서를 비롯한 3당상(三堂上 : 판서·참판·참의의 통칭)의 지휘를 받으며 낭청(郎廳), 즉 정랑(正郎) 1인과 좌랑(佐郎) 1인이 그 사무를 관장하였다.