왕명에 의하여 흉년에는 기근에 빠진 사람을 돕고, 평상시에는 홀아비·과부·고아와 자식이 없는 늙은이 등 무의탁자를 구호하기 위하여 설치되었다.
간부직원으로는 3인의 총재를 두었는데, 내부대신과 탁지부대신이 겸직하였고, 나머지 1인은 실직(實職)이 임명되어, 원무를 전관하며 소속관리를 지휘, 감독하였으며, 업무는 2인의 겸직총재와 협동하여 처리하였다.
그 아래 정책결정에 참여하는 의정관(議政官) 5인, 총재와 의정관의 지휘를 받아 실무를 총괄하는 총무 1인을 두었다. 그리고 그 밑에 문서과·서무과·회계과 등 3개과를 두고 과장은 참서관으로 보하였으며, 각 과에는 2인의 주사를 두어 업무를 처리하게 하였다.
그리고 구휼사업의 재원을 조달하기 위하여 사창기관(社倉機關)인 총혜민사(總惠民社)를 별도로 설치하였으며, 총혜민사의 업무를 총괄하고 소속관리를 지휘, 감독하는 총혜민사 총사장은 혜민원 총무가 겸하도록 하였다.
아울러 각 군(郡)에는 지방에서의 구휼사업과 환곡업무를 담당하는 분혜민사(分惠民社)를 설치하였는데, 혜민원과 총혜민사의 지휘를 받도록 하였다. 1903년 혁파되었으며, 그 구휼업무는 내부로 이관되었다.