농업과학기술에 관한 연구개발과 연구개발된 농업과학기술의 보급 · 지도, 비료 · 농약 및 농기계의 품질관리, 지역농업 발전과 생활개선에 관한 지도 · 교육 및 전문농업인을 육성하는 일을 담당하고 있다.
15세기 초 조선시대에 호조의 판적사(版籍司: 戶口 · 토지 · 조세 등의 일을 맡아 보던 호조의 한 分掌)에서 농사와 양잠의 권장 및 풍흉의 조사사무를 담당하였고, 지방의 면마다 권농관 1인을 두어 관내의 농업을 권과(勸課)하는 임무를 맡았다.
1947년 농사개량원을 설치하고, 이어 1949년 농업기술원이 설치되고 도의 교도국과 시험장은 도농업기술원으로 통합되었으며, 군에 농사교도소가 설립되었다.
1957년 농사원 · 도농사원 · 시군농사교도소가 발족되었으며, 1962년 농사원 · 농림부지역사회국 · 농림부훈련원 등 세 기관을 통합, 농촌진흥청의 직제를 제정하였다. 그 뒤 1994년에는 농림수산부소속 국립종축원, 국립농업자재검사소, 국립잠사소의 흡수개편, 국립종자공급소를 인수하고, 1996년에는 한국농업전문학교 설립하였으며, 1998년에는 수의과학연구소를 농림부로 이관하면서 잠사곤충연구소를 농업과학기술원으로 흡수하였다.
1999년 당시 차관급의 정무직 청장과 정무직의 1급의 차장 밑에 조직은 총무과 · 연구관리국 · 기술지원국을 두고, 차장 밑에 기획관리관 · 농업경영관을 두고 있었다. 소속기관으로는 시험 · 연구사업을 수행하기 위해 농업과학기술원을 비롯하여, 농촌생활연구소 · 농업기계연구소 · 원예연구소 · 축산기술연구소 등 4개의 연구소와 호남농업시험장 · 영남농업시험장 · 고령지농업시험장 · 제주농업시험장 · 종자관리소 · 한국농업전문학교 등을 두었다.
주요 조직의 기능을 보면 기획관리관은 각종 정책과 업무계획을 수립 · 종합 · 조정하고 예산을 편성 · 집행을 조정하며 조직과 정원 등을 관리하고, 농업경영관은 각종 시험연구결과의 경제성을 분석하고 품목별 경영기술을 개발보급하며 농가경영상담 및 지도자료를 개발 · 보급하고 농축산물의 판매활동 등을 연구분석한다.
연구관리국은 시험연구 사업의 중장기계획을 수립하고 시험연구체제 · 시설 · 장비를 운영관리하며 연구인력의 관리 및 자질향상, 민간 · 대학 · 국내외 연구기관과의 공동연구 등에 관한 사항을 관장하고, 기술보급국은 기술보급 및 교육훈련의 장 · 단기 계획을 수립 · 평가하고 지방자치단체의 기술보급과 교육훈련을 종합지원하며, 농촌청소년과 농업전문인력육성계획 수립 및 지원 등에 관한 업무를 수행한다. 2020년 11월 현재 기관 내 부서는 운영지원과, 기획조정관, 연구정책국, 농촌지원국, 기술협력국으로 개편되었으며, 차장 직속의 감사담당관과 코로나19대응 영농기술지원반을 두고 있다. 본래 경기도 수원시 권선구 서둔동 250번지에 있었다. 이후 농촌진흥청 본청과 농업과학원이 전북특별자치도 전주시 완산구 농생명로 300으로 이전을 완료하였다. 산하 기관인 국립식량과학원, 국립원예특작과학원, 국립축산과학원도 2015년 3월 전북특별자치도 전주시 혁신도시로 이전하였다.