호는 정관(井觀). 충청북도 청원 출신. 소설가 김기진(金基鎭)의 형이다. 우리나라 근대 조각의 개척자이다. 1920년에 동경미술학교에 유학하여 조각을 전공하고 1925년에 졸업하였다.
동경미술학교를 졸업한 후 모교인 서울의 배재고등보통학교 미술 교사, 경성여자상업학교와 경성공업학교 도기과(陶器科) 강사를 지내는 한편, 서울 기독교청년회 청년학관 미술과에서 조각을 지도하며 새로운 조각계를 태동시켰다.
전공인 조각 이외에 문학과 연극에도 관심을 나타내어, 1923년에 동경에서 김기진·이서구(李瑞求) 등과 신극 운동(新劇運動)의 단체인 ‘토월회(土月會)’를 만들었다.
그 해 서울 공연에서는 무대 장치를 맡았으며, 같은 시기에 따로 ‘토월미술회(土月美術會)’를 꾸미고 서울 정동에서 남녀 연구생에게 신미술의 조각을 지도하였다.
1924년에 작품 「여인입상」이 동경의 제국미술원전람회[약칭 제전(帝展)]에 입선하였다. 그리고 1925년에는 서울의 조선미술전람회[약칭 선전(鮮展)]에 자각상(自刻像)으로 생각되는 「3년전」과 「나체습작」이 입선했다. 이듬해의 조선미술전에서는 나체상인 「여인」이 특선에 올랐다. 모두 석고로 빚은 사실적 조형이었다.
우리나라 최초의 양풍 조각가(洋風彫刻家)로서의 그의 활약은 1925년의 조선프롤레타리아예술가동맹(KAPF) 참여에 이어 엠엘당(ML黨)에 가담했다가, 1928년의 3차 공산당 검거 때에 붙잡혀 6년간의 감옥살이로 한때 중단되었다.
옥중에서는 불교에 마음을 두면서 목각 불상(木刻佛像)을 만들어 형무소 직매장에서 팔게 되었다. 1933년 말 출옥하여, 1935년에는 생활을 위해 조선중앙일보사에 입사, 학예부장으로 미술 비평을 쓰기도 하면서 작품 제작에 열중하였다.
1936년부터 불의의 발병으로 사망하는 1940년까지 조선미술전에 출품한 「목」·「불상습작」·「나부(裸婦)」(특선)·「위이암(韋利巖)선생상」·「백화(白花)」·「소년」(특선)·「다산선생상(多山先生像)」 등이 그 시기의 작품들이다. 그 작품들은 그 뒤 동생 김기진이 보관하였으나 6·25전쟁 중 모두 불타 없어졌다.
마지막 5년간의 본격적 제작기에는 사회적 기념 동상의 위촉도 많이 받았고, 1935년 김천중학교(金泉中學校)의 「최송설당여사상(崔松雪堂女史像)」 등을 비롯하여 수많은 인물상을 제작하였다. 그러나 여러 사정으로 하나도 남아 있지 않다.
다만, 1936년에 만든 금산사(金山寺) 요청의 「미륵대불」과 1939년에 정읍 김수곤(金水坤)의 시주 3만원으로 착수하였던 법주사(法住寺)의 「미륵대불」이 있다. 그러나 「법주사미륵대불」은 광복 이후 윤효중(尹孝重)·장기은(張基殷)·임천(林泉) 등의 손을 거쳐 1963년에 변질된 형태로 완성되었었고, 현재는 청동대불로 변하였다.
1993년 건국훈장 애국장이 추서되었다.