1894년 6월 26일 제정된 군국기무처 장정에 의하면 군국기무처는 식산흥업과 상업 발달에 관한 일체의 사무를 담당하도록 규정하고 있었다. 이러한 방침에 따라 관제를 의정부와 내무, 외무, 탁지, 법무, 학무, 공무, 군무, 농상 등 8개 아문으로 개편하면서 관제에 따라 농상아문을 설립하였다.
농상아문은 국내의 농업, 상무, 예술, 어렵, 종목(種牧), 광산, 지질 및 영업회사 등의 사무를 담당하는 기관이다. 산하에 총무국, 농상국, 공무국, 삼림국, 수산국, 지질국, 장려국, 회계국 등 8개 부서를 두었다.
군국기무처를 통해 갑오개혁을 추진하던 개화파들은 농업 경제의 안정과 근대적 산업 정책을 통한 부국강병 정책을 추진하였고, 그 과정에서 농상아문과 공무아문을 설치한 것이다. 설립 초기 농상아문은 대신 1명, 협판 1명, 참의 5명, 주사 28명으로 구성되었다. 1894년 7월에는 보부상 전담 기구인 상리국(商理局)을 관리하였으나 이듬해 3월 폐지하였다.
1895년 4월 1일 칙령 제48호로 농상아문과 공무아문을 합하여 농상공부로 개편되었다. 개편된 농상공부에서는 농업과 상업은 물론 공업, 우체, 전신, 광산, 선박, 해원(海員) 등 과거 공무아문의 업무도 전담하게 된다.
농상아문은 갑오개화파 관료들이 조선의 산업을 개발하고 자본주의 발전의 토대를 확충하려는 의도에서 설치된 기구였으나 주 조선 일본공사 이노우에 가오루[井上馨]의 주장이 관철되어 폐지되고, 농상공부로 개편되었다. 그러나 농상아문의 지질국은 공무아문의 광산국 업무와 중복되어 기구가 오래 지속되었다면 일부 이해관계가 충돌될 소지도 있었다.