1882년 11월 17일 외교와 통상을 전담하는 통리아문이 설치되자 내무를 전담하는 관서가 필요하여 설치되었다. 통리아문이 설치된 이튿날인 1882년 11월 18일에 고종은 전교를 내려, 대궐 안에 통리내무아문(統理內務衙門)을 신설하도록 명하였다. 백성에게 편리하고 나라에 이로운〔편민이국(便民利國)〕 내정 개혁과 개화 · 자강 사업을 효율적으로 추진하기 위해 설치한 것이다.
이때의 관원은 총리사무(總理事務)에 홍순목(洪淳穆, 영의정) · 김병국(金炳國, 좌의정), 판리사무(辦理事務)에 민태호(閔台鎬, 좌찬성) · 윤자덕(尹滋悳, 상호군) · 김병시(金炳始, 상호군) · 김유연(金有淵, 호조판서), 협판사무(協辦事務)에 김윤식(金允植, 강화유수), 참의사무(叅議事務)에 홍영식(洪英植, 부호군) · 어윤중(魚允中, 예조참의) · 신기선(申箕善, 동부승지) 등이었다.
통리내무아문은 신설된 지 얼마 되지 않은 12월 4일에 통리군국사무아문(統理軍國事務衙門)으로 개칭하여 담당 직무와 기능을 선명히 표명하였다. 실질적인 책임자인 판리사무의 명칭도 독판사무로 바꾸었다.