본관은 광산(光山). 문정공(文正公) 김태현(金台鉉)의 후손으로, 아버지는 증참판 김거안(金巨安)이다. 아들로 김승평(金昇平)이 있다.
고려 말 도평의녹사(都評議錄事) 출신으로서 1386년(우왕 12) 전라도원수를 따라 남원·보성 등지에서 왜구를 격퇴한 공으로 돌산만호(突山萬戶)가 되었다.
조선 초기 1394년(태조 3)에 수군첨절제사(水軍僉節制使) 김빈길(金賓吉), 만호 김윤검(金允劒) 등과 함께 왜적선 세척을 포획한 공으로 왕으로부터 활·화살·은기(銀器) 등을 하사받았다. 1406년(태종 6) 전라도수군단무사(全羅道水軍團撫使)로서 왜적선 한 척을 포획하였다.
1407년(태종 7)에 상호군(上護軍)이 되어 이추(李推), 대호군(大護軍) 강원길(姜元吉)과 함께 요동의 피망민을 압송하여 돌려보내는 업무를 관장하였다.
경기수군도절제사로서 충청·전라도수군도체찰추포사(忠淸全羅道水軍都體察追捕使)를 겸직하고, 1411년(태종 11) 충청도수군절제사에 이르렀으나 병으로 인하여 벼슬을 사양하였다.
이듬해 전라도수군절제사가 되었으며, 1418년(태종 18) 황해도도관찰사에 제수되어 부임하였으나 곧 병으로 사직하였다. 사람됨이 매우 공손하고 겸손하였으며, 특히 왜구토벌에 공이 많았다.