본관은 선산(善山). 자는 기보(基甫). 길재(吉再)의 문인이다.
우왕 때 문과에 급제, 1401년(태종 1)에 지평(持平)이 되었다.
이듬해 견내량만호(見乃梁萬戶) 목철(睦哲)이 왜선 1척과 왜인 15명을 처단하고 후한 상을 받았는데, 일본 사신이 와서 그들의 사선(使船)과 사신이 돌아오지 않음을 항의하자 왕명으로 김치를 시켜 목철을 심문, 처벌하고 일본 사신을 달래서 돌려보냈다.
1402년 정랑에 제수되었으나, 헌사(憲司: 사헌부)의 상소로 파직되었다가 세종이 즉위한 뒤 지사간원사(知司諫院事)·지사간(知司諫)을 거쳐 김해부사로 사직하고 후진교육에 전력했다. 김숙자(金叔滋)와 함께 학문을 연마하여 문명을 떨쳤고, 김종직(金宗直)도 김치의 문하에서 배출되었으며, 효행으로 정문이 세워졌다.