1915년 평안남도 평양에서 출생했다. 채관수(蔡觀洙)의 둘째 아들이며, 일본군 중좌를 지낸 백홍석의 사위이다. 평양 종로공립보통학교와 평양공립중학교를 졸업하고, 1933년 4월 일본 1935년 일본 육군사관학교 예과에 입학해 1935년 3월 졸업했다. 규슈 사세보[佐世保] 중포연대에서 사관후보생으로 6개월 복무 후, 9월 육군사관학교에 입학해 1937년 12월 제49기로 졸업했다. 견습사관을 거쳐 일본군 육군 소위로 임관해 사세보의 군항을 지키는 중포 장교로 복무했다. 그 뒤 일본군 포공학교를 졸업, 병기장교가 되었고 일제 패망 시 육군 포병 소좌였다.
광복 후 1946년 1월 국방경비대가 창설되자, 국방경비대 기간요원으로 특채되어 군사영어학교에 입학했다. 졸업 후 정위(正尉)로 임관되었다. 그 뒤 국방경비대 제1연대장 ·1보급부대장 · 병기부대사령관 · 후방부대사령관 · 제4여단장 등을 지냈다. 1948년 8월 통위부 참모총장, 12월 육군준장으로 승진했다. 동시에 국방부참모총장이 되었으며, 1949년 2월 육군소장으로 승진했다. 그 해 5월 국방부의 기구간소화로 종래의 육 · 해군을 통합지휘하던 국방부참모총장제가 폐지되고 국방부장관이 통할하게 됨에 따라 제2대 육군총참모장이 되었다. 총참모장 재직중 전력증강을 위한 부대증설, 교육강화를 위한 각종 군사학교의 신설, 북한 대남유격대의 토벌작전 수행 등의 많은 업적을 이룩했다. 그러나 1949년 10월 남북한간의 물자교역과정에서 발생한 남북교역사건으로 참모총장직에서 해임, 예편되었다. 같은 해 12월 현역에 복귀, 국방부 병기행정본부장에 재임용되었다.
1950년 4월 제4대 육군총참모장 겸 육해공군총사령관으로 임명되었다. 취임 초기부터 여러 차례에 걸쳐 북한의 남침정보를 접했다. 그러나 그 동안 38선에서의 무력침공사건이 발생하거나 대남유격대가 준동할 때마다 비상경계의 형식으로 대처해 실효를 거두었다. 이에 정보국의 정보 분석과 북한남침 경고를 무시했다가, 결국 1950년 6월 북한의 남침이 시작되자 서울이 함락되는 등 패전을 거듭했다. 이에 총참모장직에서 해임되었고 영남편성관구사령관으로 물러났다. 그 뒤 남해안을 돌아 공격해 오는 적을 저지하라는 명령을 받고 출전했다가, 그 해 7월 27일 하동전투에서 사망했다. 정부는 1계급 특진, 중장을 추서했다.
1950년 12월 충무무공훈장, 1952년 5월 을지무공훈장, 1956년 10월 무공포장을 받았다.