함경남도 함흥 출생. 집안이 어려워 수학기회를 가지지 못하였다. 10대에 함흥 근처의 서호진(西湖津)에서 상점의 사환, 우마차몰이 등으로 상인으로서의 수련을 쌓았다.
첫 사업으로 해산물 도매상을 시작한 뒤 곡물투기업·토지개간사업에 착수하여 부를 축적하였다. 1917년 토지개간사업을 하기 위하여 토목청부업인 대성사(大成社)를 설립하였다.
모험심이 강한 그는 1917년 제정러시아에서 내란이 일어나 루블화 가치가 폭락하자 연해주(沿海州)에 건너가 루블화를 다량 매입, 내란이 끝난 뒤에 화폐가치가 회복되면 다시 팔아 큰 이익을 취하고자 하였으나 예상외로 내란은 혁명으로 반전, 루블화가 무가치화되자 큰 손실을 보았다고 한다.
1918년 북선상업은행(北鮮商業銀行)을 설립하여 대주주로 참여, 은행장에 취임하였는데, 이 은행은 함경남도지방에 설립된 최초의 민족은행으로 함경남도 실업인 32명의 발기로 1918년 6월 인가를 받아 그해 12월에 개점한 것이다. 참가한 주주는 지주 및 상인 398명이었고 그 중 대주주로는 그가 1,625주로 가장 많은 주를 인수하였다.
원래 북선상업은행의 설립을 발의한 것은 그가 아니었으나, 이 지역에 민족은행의 설립이 절실히 요청되었고, 함흥의 기업인들이 찬동하여 이에 가담할 것을 결심하고, 선두에 서서 창립자본의 30%에 해당하는 주를 그와 아들 김기정(金基鼎)의 명의로 인수하여 그 설립이 순조롭게 진행되었다. 경영면에서도 인화(人和)를 위하여 원만주의를 표방하였고 신용제일주의로 운영하였다.