공훈(功勳)관계의 업무를 관장하였다. 처음 설치된 연대는 분명하지 않으나, 장관인 대정(大正)이 624년(진평왕 46)에 설치된 것에서 미루어 상사서의 설치도 624년으로 볼 수 있다.
이 때 설치된 상사서는 품주(稟主)에 소속되었다가 651년(진덕여왕 5) 품주가 없어지고 집사부(執事部)와 창부(倉部)가 생겨나자 창부에 소속되었다. 경덕왕대에 사훈감(司勳監)으로 개칭되었다가 혜공왕대에 다시 상사서로 복구되었다.
소속관원으로는 대정(大正) 1인과 좌(佐) 1인, 대사(大舍) 2인, 사(史)가 있었다. 대정은 1인으로 624년에 설치되었으며 경덕왕대에 정(正)으로 개칭되었다가 혜공왕대에 대정으로 복구되었고, 급찬(級飡)에서 아찬(阿飡)의 관등소지자가 임명되었다.
좌는 1인으로 대나마(大奈麻)에서 나마의 관등소지자가 되었다. 대사는 2인으로 651년에 설치되었고 경덕왕대에 주서(主書)로 개칭되었다가 혜공왕대에 원상복구되었으며, 사지에서 나마까지 임명되었다. 사는 정원이 6인이었으나 680년(문무왕 20) 8인으로 증원되었다가, 805년(애장왕 6) 다시 본래대로 복구되었다.