본관은 김해(金海). 호는 수당(壽堂). 경상남도 김해 출생. 중농인 김창준(金昌準)의 2남2녀 중 맏아들로 태어났다. 부인 장복련(張福連)과의 사이에 장남 김중원(金重源) 등 6남4녀를 두었다.
고향에서 성호공립보통학교를 마친 뒤, 일본으로 건너가 고노하나상업학교[此花商業學校]를 졸업하였다. 일제강점기에 포목상으로 사업을 시작하여 1954년에 한천(寒天)을 수출하고 양복지를 수입하는 대경산업주식회사(大耕産業株式會社)를 설립하였다.
그가 옷감을 생산하기 시작한 것은 1956년 경남모직주식회사(慶南毛織株式會社)를 설립하면서부터이다. 그뒤 1962년에 중앙합성섬유주식회사(中央合成纖維株式會社), 1964년에 한일합성섬유주식회사(韓一合成纖維株式會社)를 설립하여 우리나라 최대의 섬유회사로 성장시켰다.
섬유수출이 호황을 누리던 1970년에 금탑산업훈장을 받은 이래 1973년에는 국내업계에서 최초로 ‘1억불 수출의 탑’을 받았다.
그는 일찍부터 육영사업에도 힘을 기울였는데, 1954년에 고향인 오지면에 경일중학교(慶一中學校)를 세웠으며, 1974년에는 학교법인 한효학원(翰曉學院)을 설립하고 그 부회장에 취임하였다.
한효학원 산하의 한일여자실업고등학교는 마산공장의 근로자들을 대상으로 설립되었는데, 그뒤 대구와 수원까지 확장되어 현재는 국내 최대의 실업학교로 성장하였다. 이것은 산학협동의 본보기를 보여준 것으로서, 이와 같은 공로를 인정받아 교육부문의 5·16민족상을 수상하였다.
또, 의료취약지구에 의료시혜를 베풀기 위하여 경상남도 함양군에 안의의원(安義醫院)을 설립하였고, 전국경제인연합회 이사와 부회장을 역임하기도 하였다.