본관은 광산. 화평군 김석견의 21대손으로 동중추 김재신의 아들이다. 일본 유학파 출신으로 식민지 시기 군수와 도지사를 지낸 전형적인 행정관료이다.
조선시대 양반 가문 출신으로 어려서 한학을 수학하였다. 1895년 4월 박영효 등 개화파 정권이 추진한 ‘관비유학생’으로 선발되었다. 그해 5월부터 1896년 말까지 게이오 기주쿠 보통과를 마치고 육군 군무 교육기관인 세이조학교에 진학하였다. 관비유학생 중 세이조학교에 진학한 유학생은 총 18명으로, 이들은 1898년 8월 대한제국 정부 군부에 의하여 부교에 임명되어 형식상 군부 파견 유학생이 되었다.
1898년 10월 세이조학교를 졸업하였고, 같은 해 12월에 김교선, 장호익 등과 함께 일본 육군사관학교에 진학하였다. 1899년 11월 사관학교를 졸업하였고, 6개월간 일본군에 배속되어 견습사관 과정을 마쳤으며, 1900년 7월 대한제국 군부에 의해 참위에 임관되었다. 이 시기 정부의 유학생 정책이 변경되면서 더 이상 유학자금을 지원받지 못하다가, 1901년 3월 송환명령에 의해 귀국하였다. 이후 대한제국 친위보병 제3연대에 배속되었다.
1902년 조택현, 장호익 등이 주도하고 일본 유학 청년 장교 15명이 동참한 ‘혁명일심회’에 가담하였다. 이 조직은 친러파 현 정부를 타도하고 고종과 황태자를 폐위한 후 의친왕 이강을 황제로 세우는 것을 목표로 삼았다. 이 와중에 ‘유길준 쿠데타 모의사건’이 발각되어 주도 인물들이 체포되자 1902년 6월 일본으로 피신하였다.
1904년 6월 일본 육군의 한국어 통역으로 발탁되어 러일전쟁에 참전하였다. 전쟁 중 본연의 임무인 한국어 통역뿐 아니라 명령 전달, 탄약 운반, 적정 감시, 직접 전투에 투입되었다. 1905년 3월 부상을 당해 후송되었다. 이런 훈공을 인정받아 일본 정부로부터 하사금 1천원을 받았다.
1905년 8월 대한제국 육군유년학교 학도대에 배속되었고, 같은 해 9월 육군무관학교 시험위원으로 활동하였으며, 같은 해 10월 육군보병 부위에 임명되었다. 이후 내부 참서관, 내부 회계국장을 거쳤다. 1906년 11월 내부 회계국장 재임 중 일본 특사로 파견된 이지용을 수행한 공로로 일본 정부로부터 훈4등 욱일장을 받았다.
1907년 6월 중추원 부찬의를 거쳐 1908년 1월 경기관찰도 남양군수, 1909년 3월부터 1926년까지 수원군수·함경북도 참여관·전라남도 참여관·충청남도 지사·함경남도 지사를 두루 거쳤다. 관직에서 물러난 후 1933년 12월까지 조선토지개량주식회사 고문을 지냈으며, 이어 1934년 4월 조선총독의 자문기구인 조선총독부 중추원의 참의에 임명되어 1945년 8월까지 11년 4개월간 중추원에서 중심적인 역할을 하였다.
1937년 9월 중추원 북지위문단의 일원으로 파견되어 중국 전선의 일본군을 위문하고 돌아왔다. 이때 톈진신사에 참배, 일본군의 무운장구를 기원하고 일본군 사령관 등을 만나 조선에서의 총후활동을 다짐하였다. 1943년 11월 조선총독부 중추원의 임시특별지원병제도 선전 활동에 참여하였다.
이 밖에 일제의 침략전쟁 선전을 위한 여러 단체에서 활동하였다. 1936년 문명기가 군용기 헌납을 목적으로 조직한 ‘조선 국방비행기 헌납회’의 회장을 맡았고, 같은 해 11월 ‘조선인 징병제 요망운동’ 발기인회에 참여하였다. 1939년 조선유도연합회 평의원으로 활동하였고, 1941년 5월부터 일제의 침략전쟁을 후방에서 지원하기 위한 민간단체인 국민총력조선연맹의 평의원을 맡았으며, 1941년 조선임전보국단의 발기인으로 참여하였다.
김관현의 일제강점기 활동은 2004년 10월 29일 공포된 대통령령 제18571호 「일제강점하 친일반민족행위 진상규명에 관한 특별법」제2조 제9·17·19호에 해당하는 친일반민족행위로 규정되어 「친일반민족행위진상규명 보고서」Iv-1:친일반민족행위자 결정이유서(pp.792∼822)에 관련 행적이 상세하게 채록되었다.