농업 · 상업 · 공업 및 우체 · 전신 · 광산 · 선박 · 해원 등에 관한 일을 관장하기 위하여 설치한 기구이다. 2차 갑오개혁기에 관제를 개편하면서 설치된 7부 가운데 하나이다. 갑오개혁 때 설치된 공무아문(工務衙門)을 폐지하고 농무아문에 통합하여 농상공부가 되었다.
부속 기구로 대신관방, 농무국, 통신국, 상공국, 광산국, 회계국이 있었다. 인원 규정을 보면 관원으로 대신 1명, 협판(協辦) 1명, 참서관 4명, 국장 5명, 전임기사 7명 이하, 전임기수 13명 이하, 주사 18명을 두었다.
갑오개혁기에는 경제 규제와 봉건적 특권을 폐지하여 자본주의적 자유 경제를 수립하고자 하였으며, 산업을 개발하고 사회 간접 자본을 확충하여 자본주의 경제의 토대를 마련하고자 하였다. 조정은 이를 위한 개혁을 추진하였으며 이를 수행할 기구를 설립하였다.
1894년 1차 관제 개혁에서 농업과 상업을 담당하는 기구로 농상아문(農商衙門)이 새로 설립되었다. 농상아문은 ‘농업 · 상무 · 예술 · 어획 · 종목 · 광산 · 지질 및 영업회사 등 일체의 사무를 관장하는 부서’이고 그 산하에 공상국(工商局)을 두었다. 공무국은 상업에 관한 업무와 동량형과 제조품의 심사, 공업 장려 등의 업무를 담당하였다. 공무아문은 체신 운반과 전선 가설, 철도 · 도로 건설, 광산 개발, 해운항만 건설, 각종 공해 건출 등 사회 간접 자본을 확충하고 산업 개발을 전담하는 관서였다.
그러나 일본은 조선의 산업 개발의 주도권을 확보하여 일본 자본주의 경제의 기반으로 삼으려 하였다. 일본 측은 조선의 형편상 재정이 곤궁하고 공무라 할 만한 것도 없으니 농상아문이나 다른 곳으로 합병할 것을 제안하였다.
개혁 관료의 한 사람인 탁지대신 어윤중은 이에 반대하면서 곧 철도가 개설되고 광산도 채굴될 것이며 전신과 우편도 실행될 것이라며 공무아문의 필요성을 주장하였다. 하지만 일본 측의 의견이 관철되어 2차 개혁에서 공무아문이 폐지되고 기능이 농무아문에 통합되었다. 관제와 규정은 수차례 개정되면서 1910년까지 존속하였다.
갑오개혁기에 조선 왕조는 조선 후기 이래 발전하는 국내 상품 유통의 확대에 기반하여 상업 자본을 육성하고 국가적 차원에서 자본주의 경제 구조로 개편하려는 정책을 지향하였다. 또 조선의 산업을 개발하고 자본주의 발전의 토대를 닦으려 하였다. 조정의 경제 개혁이 수립되고 수정되는 과정 속에서 농무아문, 공무아문, 그리고 농상공부가 설치되었다.