본관은 울산. 호는 원파(圓坡). 전라북도(현, 전북특별자치도) 부안 출생. 제2대 부통령 김성수(金性洙)의 큰아버지이며 양부(養父)이다.
1886년에 진사가 되고, 1904년 용담(龍潭) · 평택 · 동복(同福) 등지의 군수를 거쳐 1906년 정3품에 올랐으나 나라가 어지러워지자 관직을 떠나 교육 · 문화사업에 힘을 기울이는 한편, 1908년 향리 줄포(茁蒲)에 영신학교(永新學校)를 설립하였다.
그 뒤 일본에 건너가 교육제도를 시찰하고 중등교육의 필요성을 느껴, 1915년에 경영난에 빠진 서울의 중앙학교(中央學校)를 인수, 김성수의 생부인 경중(暻中)과 함께 설립자가 되었으며, 1917년에 계동으로 교사를 신축, 이전하였다. 1932년에는 경중과 함께 천도교로부터 보성전문학교를 넘겨받고 동대문 밖에 신축교사를 건립, 이전하였다.
그 당시 김성수의 민립대학 설립계획이 여의치 못하자 민간사학을 통해 그 뜻을 이어 나가고자 보성전문학교를 인수하여, 김성수로 하여금 운영을 맡게 하였던 것이다.