본관은 광산(光山). 자는 자봉(子封). 형조참판 김장생(金長生)의 증손으로, 할아버지는 참판 김반(金槃)이고, 아버지는 어영대장 김익훈(金益勳)이며, 어머니는 김언(金琂)의 딸이다.
1680년(숙종 6) 주부로 별시 문과에 병과로 급제하여 정언이 되어 대사헌 홍만용(洪萬容) 등과 우의정 오시수(吳始壽)의 처벌을 청하였다. 이어서 지평·부수찬·남한시재어사(南漢試才御史)를 지내고, 1684년 수찬이 되어 아버지의 억울함을 호소하는 소를 올렸다.
1689년 세자 문제로 남인이 세력을 잡은 뒤 다시 아버지가 가혹한 고문으로 장살되자 그 억울함을 진정하다 절도로 유배되었다. 1694년 갑술옥사로 남인이 몰락하자 아버지의 관작이 복관되고 김만채도 풀려나와 호조참의로 기용되었으며, 이어서 승지를 거쳐 1703년에는 경상도관찰사가 되고, 병조참의·승지를 역임한 뒤 1705년 대사간이 되었다.
1708년 부사직(副司直)에 임명되었으며, 강원도관찰사·개성부유수(開城府留守) 등을 역임하고, 1712년에는 경기도관찰사가 되었다.