참여정부는 출범 초부터 안보환경의 변화를 반영하고 미래전에 능동적으로 대응하기 위해 국방개혁을 지속적으로 추진했다. 국방부는 2005년 1월부터 계획을 수립하기 시작해 9월에 최종적으로 ‘국방개혁 2020’을 완성하고, 이를 본격적으로 추진하기 위해 국방개혁추진단을 구성하였다. 국방개혁추진단은 2007년 7월 국방부 장관 직속의 ‘국방개혁실’로 정식 직제화되었다.
참여정부는 과거 국방개혁의 미비점과 일부 분야에 상존하고 있는 구조적·제도적 불합리성과 비효율성을 개선하기 위해 ‘국방개혁 2020’ 계획을 수립하였다. 이 계획의 핵심은 한반도 평화와 번영을 보장하는 ‘자주적 선진국방’의 구현이었다. 국방부는 ‘국방개혁 2020’을 본격적으로 추진하기 위해 법제화 추진과 함께 기구 편성에 착수하였다. 이에 따라 ‘국방개혁 2020’의 내용을 담은 ‘국방개혁기본법안’이 2005년 12월 2일 대통령의 재가를 얻어 국회에 제출되었고, 공청회 실시 등 법적 절차를 거쳐 2006년 12월 1일 ‘국방개혁에 관한 법률’로 국회를 통과했다. 법제화가 진행되는 동안 국방부에서는 이를 추진하기 위한 기구를 마련하였다. 2005년 12월 1일 ‘군구조 개편준비단’이 발족하여 ‘군구조 개편 종합추진계획’을 수립하였으며, 2006년 1월 1일 ‘국방운영 혁신준비단’이 발족하여 국방운영 분야의 개혁과제를 추진했다. 2006년 10월 9일 국방부는 국방개혁을 가속화하기 위하여 그동안 국방개혁을 준비하는 차원에서 운영해 온 ‘군구조개편준비단’과 ‘국방운영혁신준비단’을 ‘국방개혁추진단’으로 통합·편성하였다. 이후 국방개혁추진단은 2007년 7월 18일 국무회의의 의결에 따라 비편제로 운영되던 기구에서 장관 직속의 ‘국방개혁실’로 정식 직제화되었다.