본관은 김해(金海). 자는 건칠(建七), 호는 고헌(顧軒). 경주 산내에서 출생. 아버지는 김우간(金瑀榦)이며, 어머니는 경주김씨로 김서증(金西曾)의 딸이다.
1880년에 그의 아버지가 자녀들의 교육을 위해 봉화로 이사하여 그 곳에서 조현익(趙顯翼)으로부터 배웠다. 공령(功令: 科文)을 멀리하고 오직 성현의 학문에만 전념하였다. 1902년에는 부모를 모시고 다시 경주 옛 고장으로 돌아와 신계리(薪溪里)에 살면서 괘릉리(掛陵里)의 이능오(李能吾) 등과 교유하며 경의(經義)를 강론하였다.
몽양재(蒙養齋)에서 문중 자제들을 교육하고 몽양재학칙 19조를 만들어 준수하도록 지도했으며, 주일무적(主一無適)의 사상을 강의하였다.
또한, 선세(先世)의 유문을 수습, 정리하였고 , 『심경』과 『근사록』을 탐독하였으며, 이황(李滉)의 이기호발설(理氣互發說)을 좇아 심(心)과 성(性), 즉 이(理)와 기(氣)는 선동후동(先動後動)이니 선생후생(先生後生)이니 하여 이원론으로 나누어 이해하기보다는 심즉성(心卽性)으로 보아 성명(性命)·이기(理氣)·체용(體用)·동정(動靜)이 원래 하나라는 심성일치, 즉 일원론을 주장하였다.
저서로는 『퇴서유집(退書類輯)』 4책, 『길흉서류(吉凶書類)』, 『사칠이기변(四七理氣辨)』, 『동사(東史)』, 『서악지(西岳志)』 4권, 「천자가(千字歌)」 1편, 『고헌집(顧軒集)』 6권 등이 있다.