김정식은 대한제국기 황성기독교청년회와 일제강점기 도쿄조선기독교청년회에서 활동한 청년운동가이다. 대한제국기 경무관 출신으로 정치적 사건에 연루되어 수감 중 기독교인이 되었으며, 출옥 후 연동교회를 중심으로 계몽운동에 참여했고, 서울과 도쿄에서 YMCA운동을 주도했다. 무교회주의자들과 교류하면서 일본조합교회에서 활동하기도 했다.
1894년 경찰이 되어 1895년 주1에서 주2으로 승진했으며, 1897년 6품, 1898년 정3품으로 주3. 1898년 11월 독립협회의 시위를 저지하지 못했다는 이유로 주4을 받고 1899년 경무관에서 물러났으며, 목포 무안항의 경무관에 임명되었으나 곧 물러났다.
1902년 이상재(李商在), 유성준(兪星濬), 홍재기(洪在箕), 이원긍(李源兢) 등과 함께 정치적 사건에 연루되어 한성 감옥에 투옥되었다. 감옥 안에서 『천로역정(天路歷程)』과 『신약 전서(新約全書)』 등 신앙 서적을 읽고 기독교인이 되었다.
1904년 주5 선교사 게일(J. S. 주6에게 세례를 받고 연동교회에 출석했다. 같은 해 연동교회의 교회 학교인 부용회(芙蓉會) 설립을 주도했으며, 출옥 인사들이 중심이 되어 연동교회에서 창립된 계몽 주7 단체인 국민교육회(國民敎育회)에도 참여했다. 같은 해 황성기독교청년회(YMCA)의 한국인 수석 주8로 임명되어 1906년까지 재직하며 한국 YMCA의 초석을 놓았다.
1906년 일본으로 건너가 동경조선기독교청년회를 세우고 주9 총무에 취임했으며, 이후 도쿄조선 YMCA는 2·8독립선언을 비롯하여 재일 주10 학생 민족 주11의 근거지가 되었다. 1909년 조만식(曺晩植), 정익로(鄭益路) 등과 도쿄조선인교회를 설립했다. 일본의 무교회주의 기독교인 우치무라 간조(內村鑑三)와 친분을 쌓았으며, 이는 이후 김교신(金敎臣), 유영모(柳永模) 등 조선인 무교회주의자들과 교류하는 계기가 되었다.
1916년 귀국하여 조선중앙기독교청년회 이사, 조선교육회 주12, 조선민립대학 기성준비회원, 민우회 임원 등을 맡았으며, 1917년 일본 기독교 교파인 조합교회(組合敎會)로 소속을 옮겨 서울 성서교회(城西敎會)를 담임하고 1921년까지 재직했다. 1922년 서울의 기독교, 불교, 천도교 신자들과 우리친목회를 조직했며, 1920년 만주실업 주식회사의 대표 이사에 취임하여 1931년까지 재직하기도 했다.
말년에 자식 없이 부인과 생활하다가 1937년 1월 13일 주13으로 경성 요양원에서 사망했다. 같은 해 5월 『성서조선』은 ‘김정식 선생 기념호’를 발간하였다.