호는 장백산(長白山) 서울 출생. 1897년 3월 21일 서울 창신동에서 유기 도매상 김병수(金丙洙)의 3형제 중 차남으로 태어났다. 1913년 관립공업전습소(官立工業專習所) 도기과를 졸업한 뒤 경성공업전문학교(京城工業專門學校) 요업과에 입학하여 1918년 제1회로 졸업하였다.
일본 도쿄[東京]에서 1년간 유학했으며, 귀국하여 기업과 연구소에 취직하기도 했다. 김용관의 관심은 전문 요업기술자의 삶보다는 민족 과학기술과 공업의 진흥을 위한 사회운동이었다. 이후 그는 평생에 걸쳐 민족 과학기술의 진흥에 헌신하였다. 이는 자신의 신념에 투철하고 타협을 모르는 강직한 성품에서 기인한 것이었다.
그는 민족 산업의 독립적 발전을 추구하는 물산장려운동(物産獎勵運動)에 참여하는 한편, 1924년 박길룡(朴吉龍) 등 경성고등공업학교 동문을 규합하여 발명진흥단체인 발명학회(發明學會)를 창립하였다. 1928년 이후에는 조선물산장려회의 자매기관으로 설립된 고려발명협회(高麗發明協會)의 주도적 활동가로 활약하였다.
김용관의 민족 과학기술의 진흥을 위한 활동이 결실을 거둔 것은 1930년대였다. 1932년 그동안 유명무실한 상태에 있던 발명학회를 재건했으며, 이듬해 일제강점기 대표적 대중 과학기술 잡지인 『과학조선(科學朝鮮)』을 창간하였다.
발명학회의 활력과 과학기술에 대한 조선 사회의 높아진 관심을 바탕으로, 김용관, 박길룡 및 그의 동료들은 1934년 과학의 날 행사로 대표되는 대중적 과학보급 운동을 전개하였다.
이후 과학지식보급회(科學智識普及會)라는 상설 조직을 통해 매년 개최된 이 행사는 자동차 퍼레이드, 라디오 강연, 과학관 단체 견학 등 과학의 중요성을 계몽하였다. 당시 조선의 대표적 지식인, 교육자, 언론인, 기업인이 후원하였으며, 서울은 물론 전국적으로 확산되어 커다란 대중적 성공을 거두었다.
김용관은 과학대중화 운동의 성공을 바탕으로 조선인 과학기술자, 발명가들의 연구 활동을 후원하기 위한 연구기관으로 이화학연구기관(理化學硏究機關) 설립을 추진하였다.
일제 당국의 탄압과 방해에도 성공리에 진행되던 과학지식보급회와 발명학회의 활동은 1937년 중 · 일전쟁 발발 이후 일제의 군국주의가 노골화되면서 점차 활력을 잃었다. 1939년부터 과학지식보급회는 급속히 친일적 단체로 변질되었고, 1940년 발명학회도 사실상 해체되었다. 이 과정에서 김용관도 일선에서 물러났다.
광복 이후 그는 전공인 요업분야에서 후진양성을 위해 노력했으며, 대한요업총협회와 한국요업학회 창립에 헌신적으로 관여하였다.