고려 초기의 향직에서 유래된 것으로, 고려 말기에 평양·화주·제주도에 두었다. 조선 초기에는 설치 지역이 확대되어 평안도의 영변·의주·강계, 함경도의 길주·경성·회령·부령·종성·온성·경원·경흥 등에도 설치되었다. 세조 때에는 경주·전주·개성 등에도 두었으나 오래지 않아 폐지되었다.
토관의 조직 구조는 동반과 서반으로 구분되어, 동반은 지방행정의 실무를 맡고 서반은 군사를 담당하였다. 동반 관서에는 도무사(都務司)·전례서(典禮署)·4부(四部)·영작서(營作署)·제학서(諸學署)·전주서(典酒署)·사옥국(司獄局)·사창서(司倉署)·수지국(收支局)·융기서(戎器署) 등을 두어 각각 사무를 맡게 하였다.
서반의 군사 조직은 함흥부에 진북위(鎭北衛), 평양부에 진서위(鎭西衛), 영변대도호부에 진변위(鎭邊衛), 경성도호부에 진봉위(鎭封衛), 회령·경원 도호부에 회원위(懷遠衛), 종성·온성·부령·경흥도호부에 유원위(柔遠衛), 강계도호부에 진포위(鎭浦衛) 등을 두었다. 토관은 이남 6도의 향리에 비유되면서도 정5품 이하의 체아직(遞兒職)으로 관직이 주어졌다.
토관이 중앙 관직을 받을 때에는 1품을 낮추기로 되어 있으며, 선발에 있어서 동반 토관은 관찰사, 서반 토관은 절도사가 본도인으로 추천해 임용하였다. 임용된 자는 천호(千戶)·백호(百戶)·진무(鎭撫)·영사(令史)·육방(六房) 등 그 지방의 군사적·사회적 유력층으로서 익군(翼軍)의 고위 지휘관이나 지방 행정의 실무자 중에서 선발되었다.
중앙 정부는 변경지방의 토착적인 유력층을 포섭해 안으로는 효율적인 지방 지배와 군사 조직의 강화를 꾀하고, 밖으로는 이민족과의 연결을 방지하고자 한 회유 정책에서 토관제를 시행하였다. 그러나 15세기 말에는 그 정치적·군사적 사명을 다하고 향리로 대체되어 갔다.