본관은 안동(安東), 본명은 정진(廷鎭), 호는 한사(漢槎), 자는 정옥(廷玉). 서울 출신. 배재학당·이화학당에서 교편을 잡다가 중국을 거쳐 미국으로 건너가 김형제상회를 만들어 성공하였으며, 대한인국민총회 위원장과 재미한족연합회 위원장으로 독립운동을 펼쳤다. 해방 후 귀국해서 정부 수립에 관여하고 과도입법의원 초대 관선의원으로 선출되어 활동하다가 다시 미국으로 돌아갔다.
김후규(金厚圭)의 3대 독자로 태어났다. 관립 소학교와 중학교를 졸업한 뒤 인천의 영흥학교·대성학교와 배재학당과 이화학당에서 영어와 수학을 가르쳤다. 1912년 독립운동에 헌신하기 위해 중국 상하이를 거쳐 1914년 미국에 건너가 노동에 종사하며 대한인국민회의 회원으로 활동하였다. 1919년 3·1운동이 일어나자 국민회 중앙총회의 특파위원으로 독립운동을 고취하는 강연을 하면서 자금을 모금하였고, 대한민국 임시정부의 외교활동을 후원하기 위해 노동사회개진당(勞動社會改進黨)을 조직하였다.
1921년 김형순과 함께 김형제상회를 설립하여 복숭아 재배와 신품종 개발로 부자가 되었으며, 임시정부를 적극적으로 지원하고 학교와 교회를 세우며 장학사업을 펼쳤다. 1936년 국민회 리들리지방회의 대의원을 거쳐 1937년 북미대한인국민회 중앙총회의 총회장에 선출되었으며, 1941년 4월 하와이 호놀룰루에서 개최된 해외한족대회에 참석하여 재미한족연합위원회를 결성하고 집행부의 위원·위원장으로 활약하였다.
그해 말 태평양전쟁이 발발하자 한인국방군 편성계획을 미육군사령부에 제출하여 로스앤젤레스에 한인국방경위대인 맹호군(猛虎軍)을 창설하였다. 1942년 8월 29일 국치일에는 로스앤젤레스 시청에 태극기 게양식을 거행함으로써 자주독립 의지를 대내외에 알렸다. 1944년 임시정부가 종전 후 한국의 독립을 국제사회에서 보장받기 위해 설치한 주미외무위원회의 위원으로 선임되어 외교활동을 벌였다. 이로 인해 주미위원부의 이승만과 갈등을 겪었다.
광복 후 1945년 10월 재미한족의 국내파견 대표단의 일원으로 귀국한 뒤 1946년 12월 남한과도입법의원의 초대 관선의원이 되어 적산분과위원장(敵産分科委員長)으로 활약하였으며, 김규식 계열의 민주독립당과 민족자주연맹을 결성하였다. 그러나 1948년 이승만이 집권하자 다시 미국으로 건너가 대한인국민회 중앙집행위원장을 맡아 한인사회를 이끌었다. 1957년 한인재단(Korea Foundation Inc.)을 설립하고 이사장으로 취임해 장학사업 등을 벌였으며, 김원용이 한인의 미주 이민 역사를 정리한 『재미한인 50년사』를 발간하는 데 도움을 주었다. 또한 대한인동지회를 대표하는 송철과 함께 현재 한인회관의 전신인 한인센터(Korea Community Center)를 설립하였다.
건국에 이바지한 공로로 1997년에 건국훈장 독립장이 수여되었다.