고려시대에는 상서사(尙瑞司)가 있었는데, 정방(政房)·지인방(知印房)·차자방(箚子房) 등으로 불렸다. 조선시대에 들어와서는 1392년(태조 1) 고려의 제도를 따라 상서사를 설치하였다.
부인(符印)과 제수(除授) 등의 일을 관장하였으며, 관직으로는 판사·부윤(府尹)·소윤(少尹)·승(丞)·주부·직장(直長)·녹사(錄事) 등을 두었다. 그 뒤 1466년(세조 12) 상서원으로 개칭되고, 관직도 윤을 정(正), 승(丞)을 판관(判官), 녹사(錄事)를 부직장(副直長)으로 고치고, 소윤(少尹)은 폐지되었다.
『경국대전』에 나타난 직제를 보면, 정 1인, 판관 1인, 직장 1인, 부직장 2인으로 구성되고, 정은 도승지가 겸하도록 규정되었다.『속대전』에서는 판관이 없어지고, 부직장도 1인으로 줄었다. 『경국대전』에 규정된 상서원의 직장(職掌)은 새보·부패(符牌)·절월(節鉞)을 관장하는 것으로 되어 있다.
새보는 국왕의 도장으로서 외교문서·교명(敎命)·교서·교지·유서(諭書)·시권(試券) 및 홍패·백패 등에 찍었고, 절월은 생살권(生殺權)을 부여하는 뜻을 상징하는 것으로서 관찰사 및 병사(兵使)·수사(水使)에게 내려주었다.
부패의 부는 병부(兵符)를 의미하고, 패는 순패(巡牌)·마패(馬牌)를 뜻하였다. 상서원은 1894년(고종 31) 갑오경장 때 폐지되었다.