이 시장은 전국적인 농수산물의 대량 신속 유통을 통해 유통 효율성을 증대시킴으로써 농수산물의 경제적, 사회적 유통 비용을 절감하여 생산자와 소비자를 동시에 보호하는 기능을 수행하고 있을 뿐만 아니라 가격 형성의 중추 시장 역할을 수행하고 있다. 또한 신속정확한 유통 정보체계를 확립하여 수급 안정을 도모하고, 유사 도매시장의 기능을 흡수하여 도매시장의 건전한 발전을 도모하고 있다.
이와 함께 도매시장 중심의 유통 체계 개선으로 산지 시장과 소매 시장의 근대화를 유도하는 중심적인 역할을 수행하고 있다. 시장의 설립은 1977년 농수산부가 농수산물 유통센터 건립방침을 〈농수산물 유통 및 가격안정에 관한 법률〉에 의하여 결정하고, 한국개발연구원, 세계식량농업기구, 한국농촌경제연구원 등의 시장 건립 타당성 분석을 통하여 서울특별시 송파구 가락동에 부지 면적 54만 7,265㎡에 건물 면적 19만 7,142㎡를 건설하기로 하고 1982년 4월에 건축을 시작하여, 1985년 5월에 공사를 마무리짓고, 1985년 6월에 시장을 개장하였다.
시장의 관리는 서울특별시 농수산물도매시장관리공사가 맡고 있으며, 시장의 운영은 1997년 현재 10개의 농수축산물 도매시장 법인과 협동조합의 공판장이 담당하고 있다. 부류별 도매시장 법인과 공판장을 보면 청과물은 5개의 도매시장 법인과 1개의 농협공판장, 수산물은 2개의 도매시장 법인과 1개의 수협공판장, 축산물은 1개의 축협공판장이 각각 시장의 운영을 담당하고 있다.
시장의 거래에 참여하고 있는 유통 참여자로는 1997년 7월 현재 경매사 314명, 중도매인 2,111명, 매참인 145명이 있다. 부류별로는 경매사의 경우 청과물 267명, 수산물 42명, 축산물 5명이며, 중도매인의 경우 청과물 1,655명, 수산물 406명, 축산물 50명이 있다. 도매시장에서의 거래제도는 도매시장 법인의 수탁 판매원칙과 상장경매제를 원칙으로 하고 있다.
시장의 거래 물량은 개설 초기에는 개장 후 5년 이내 완전 가동을 목표로 1일 평균 거래량을 청과물 3,030톤, 수산물 540톤으로 설정하였으나 개장 후 2년째부터 목표 물량을 상회하여 1996년 말 현재 거래 물량은 청과물 223만 9,484톤, 수산물 18만 4,954톤, 축산물 10만 7,843톤으로 1일 거래량은 각각 6,745톤, 557톤, 356톤에 달하고 있다. 개장 초기에는 도·소매가 분리되어 있지 않아 시장 질서가 혼란스럽기도 했으나, 점차 경매 물량이 증가하고 거래 질서가 잡혀 우리나라의 중심적인 농수산물 공영도매시장로서의 기능을 수행하고 있다.