김형순(Harry S. Kim)은 1886년 5월 4일 경상남도 통영군에서 태어났다. 김형순의 가계는 김해김씨 삼현파로 그의 아버지는 개화파의 일원으로 우리나라의 근대화 운동에 참여하였다. 그러나 갑신정변이 실패로 돌아가자 신변의 위협을 느끼고 몸을 숨기고 살 수밖에 없었다. 김형순은 그의 아버지가 숨어 살다가 통영에서 그를 낳았고, 그가 6살 때인 1891년 이모 이에스더가 살고 있는 인천으로 보내졌다.
그는 인천에서 미국인 선교사 존스(趙元時, George Heber Jones) 목사로부터 세례를 받고 영어와 서양학문을 배웠다. 존스 목사의 도움으로 배재학당의 아펜젤러 목사에게 보내져 전액 장학생으로 공부를 할 수 있었으며, 1901년 학교를 졸업하였다.
졸업 후 그는 대한제국 인천 세관의 직원모집에 응모하여 1년간 근무하였다. 1902년 하와이 이민을 위해 신설된 유민원(綬民院)의 영어 통역관 모집에 응모하여 합격하였다. 하와이 사탕수수농장 한인노동자들의 통역관 겸 인솔책임자로 임명받은 김형순은 같은 해에 첫 노동자들과 함께 최초의 이민선을 타고 마우이(Maui)섬의 사탕수수농장에 도착하였다.
김형순은 마우이의 사탕수수 농장에서 볼드윈(Baldwin)이라는 지배인 밑에서 6년 동안 통역 일을 하다가, 1909년 통역의 직책을 사임하고 고국에 돌아왔다. 귀국 후 존스 목사의 중매로 당시 이화학당 성악과 출신이었던 한덕세(전북 정읍 출생, Daisy, 1896.12.28-1977.5.5)와 결혼을 하였다.
일제의 통치를 견딜 수 없었던 그는 1911년 중국 상하이[上海]를 거쳐 1913년 8월 미국 샌프란시스코로 갔다. 그는 나성고등학교(Los Angeles High School)에 입학하여 고학으로 학교를 마쳤다. 그는 노동일과 부인의 음악교습으로 얼마 간의 자본을 축적할 수 있었고, 1916년 봄 로스앤젤레스에서 북쪽으로 210마일 떨어진 중가주(中加州)의 과일 농장지역 리들리(Reedley)에 정착하여 묘목상회(苗木商會)를 설립하였다.
그는 과일 육종전문가(UC Davis 농대 교수)로부터 자두와 복숭아로 개발한 넥타린(Nectarine) 복숭아 특허품의 묘목전매권을 획득하여 신종 18종의 넥타린을 전 미국에 보급하였다. 사업이 확장되면서 김형순은 새로운 동업자로 김호(金乎)를 만나 ‘김형제상회’(Kim Brothers Company)를 새로이 설립하였고, 이들 사업을 통해 번 돈의 상당 부분을 독립운동과 동포사업을 위해 기부하였다.
1929년 국내에서 광주학생운동이 일어나게 되자, 미주 본토에서도 1930년 들어 각 지에서 공동회가 조직되어 적극적인 독립운동 지원사업에 나서게 되었다. 중가주에서도 한인공동회(韓人共同會)가 열려 한인사회에 신망이 높았던 김형순이 회장에 선임되었다. 대한인국민회를 중심으로 미주 한인사회의 지도력을 인정받은 김형순과 김호는 1940년에 들어서도 독립운동에 적극적으로 참여하였다.
해방 후에는 사업을 계속하는 한편 1950년 1월 2일 북미국민회의 중앙집행위원장으로 선임되었고, 그 후 1960년까지 10년간 대한인국민회 집행위원장을 지냈다. 또한 그는 경기도 평택군 이북면에 ‘꽃동산 애육원’을 설립하여 전쟁 고아들을 돌보았고, 돈이 없어 공부를 하지 못하는 학생들을 뒷받침해 주고자 하였다.
1957년 5월 중가주 리들리에서 조국의 재건과 민족의 장래를 위해 그는 김호 · 김원용 등 한인 실업가들과 협의하여 한인재단(Korean Foundation)을 설립하기로 하였다. 1977년 1월 25일 91세로 별세하였으며, 장례식은 대한인국민회장으로 치러졌다.
정부에서는 그의 공훈을 기리어 2011년에 애국장을 추서하였다.