본부는 이탈리아 로마에 있다. 1974년 11월 세계식량회의(WFC)에서 기금설립이 제의되어, 1975∼1976년까지 5차의 협의를 거쳐 1976년 6월 13일 국제연합총회 특명전권대표회의에서 정식으로 채택되어 1976년 12월 20일 국제연합총회 본회의에서 협정서에 서명함으로써 설립되었다.
총회·집행이사회·사무국으로 구성되어 있으며, 총회는 최고의결기관으로서 연례정기회의를 개최하고 각 회원국은 대표 및 교체 대표를 각 1명씩 참석시킨다. 집행이사회는 총회에서 선출된 임기 3년의 18개 정이사국 및 18개 교체이사국으로 구성되며 여기서는 일반적인 운영에 대한 책임을 진다.
사무국은 집행이사 회의장을 겸임하는 총재·부총재 등 300여 명의 직원들로 구성된다. 1998년 현재 회원국은 161개국으로 경제협력개발기구(OECD)에서 22개국, 석유수출국기구(OPEC)에서 12개국, 개발도상국이 127개국이다. 이 기금은 주로 선진공업국 및 산유국이 의무적으로 출자함으로써 개발도상국의 농업개발을 지원하는 데 사용한다. 개발도상국은 기여금을 의무적으로 출자하지 않으며 자국통화로 출자할 수 있다.
당초 기여금 목표는 1978∼1981년 10억 달러였으며, 그 중에서 우리나라는 20만 달러를 기여하였다. 그동안 조성된 기금이 1980년에 차관 대여로 소진됨에 따라 1997년까지 4차례에 걸쳐 기금 목표를 재조정하여 26억 달러를 추가로 조성하였고 우리나라는 추가로 509만 달러를 기여하였다.
우리나라는 창설회원국으로 1978년 1월 26일에 가입하였으며, 1981년 이후 1996년까지 임기3년의 집행이사국을 3회 역임하였다. 국제농업기금은 농협중앙회와 공동으로 1988년 5월 및 1997년 11월 베트남 하노이에서 농업·농촌개발에 관한 국제세미나를 개최하였다.