세례명은 알렉시오. 1870년 평안남도 은산(殷山)에서 김 프란치스코 하비에르와 최 아가타의 넷째 아들로 태어났다. 강원도 이천(伊川)에 살 때 신학생으로 선발되어 1883년에 강도영(姜道永 등 동료신학생과 말레이반도의 페낭신학교로 유학, 10년간 수학하였다.
그 뒤 국내에서 천주교의 전교활동이 묵인되자 1892년에 귀국, 용산 예수성심신학교에서 신학을 계속 공부했다. 1897년 12월에 신부가 되어 1898년 6월부터 경상북도 가실(嘉實 : 지금의 倭館 근처)에서 활동하다가 1901년에 김천으로 옮겼다.
1911년에는 황해도 장연교회를 맡았으며, 1916년에 용산 예수성심신학교의 교수신부로 임명되어 신부양성에 종사했다. 1922년에는 평양본당을 맡게 되었고, 1927년에는 영유본당, 1931년에는 서포본당을 담당했으며, 1936년에는 충청남도 아산 공세리로 전근하여 사목(司牧)하다가 1938년 9월 18일에 사망하였다. 40여 년간 한국천주교회 발전에 많은 공로를 세웠다.