본관은 김해(金海). 자는 여현(汝賢), 호는 묵헌(默軒). 전라도 해남 출생. 아버지는 김창오(金昌五)이며, 어머니는 순천김씨로 김윤태(金潤泰)의 딸이다. 박용구(朴龍九)의 문하에서 수학하였다.
1786년(정조 10) 문과에 병과로 급제하였으며, 그 이듬 해 승문원부정자를 시작으로 벼슬길에 나가 휘릉별검·성균관전적·사헌부감찰 등을 지냈다. 1792년에 무고를 받아 인천에 유배되었으나 곧 풀려났다.
1794년 종부시주부에 임명되었고, 그 뒤 사헌부감찰·병조좌랑·함경도사·사헌부지평·사간원정언·이조정랑 등을 역임하였다.
김재일은 사헌부지평·사간원정언으로 있을 때 인사부정의 척결과 관리들의 부정부패 근절을 강조하는 소를 올렸다. 또한 벼슬에 연연하지 않고 강력한 진언을 서슴치 않았다. 그 뒤 사헌부장령으로 승진되었으나 사직하고 고향으로 돌아갔다. 저서로 『묵헌유고(默軒遺稿)』 5권이 있다.