김재관은 1933년 4월 19일에 경기도 화성군 남양면(현, 화성시 남양읍)에서 태어났다. 1956년에 서울대학교 기계공학과를 졸업했고, 1961년에 뮌헨대학교에서 박사 학위를 받았다. 데마그(Demag) 기획부, 뮌헨공대 금속기계재료 연구소에서 근무한 후 1967년에 해외 과학자 유치 1호로 한국과학기술연구원(KIST)에 정착했다. 국방과학연구소(ADD) 부소장(1972~1973년), 초대 중공업 차관보(1973~1974년), 국립공업표준시험소 소장(1974~1975년), 한국표준과학연구원(KRISS) 초대 소장(1975~1980년)을 지냈다. 김재관은 1981년에 인천대학교 기계공학과 교수로 부임했으며, 한국정밀공학회 회장(1985~1991년), 인천대학교 대학원장(1988~1991년) 등을 지냈다.
김재관은 1961년 11월에 한국의 종합 체철소 건설 교섭단이 서독의 철강 업체들과 협상 과정에 관여했다. 1964년 12월에 박정희 대통령이 서독을 방문했을 때 김재관은 평소에 작성해 둔 영문 자료인 「한국의 철강 공업 육성에 관한 제안서」를 박정희 대통령에게 전달하기도 했다.
1969년 7월에는 종합제철사업계획 연구 위원회가 103만 톤 규모의 제철소 건설을 골자로 하는 ‘신(新)사업 계획’을 마련했다. 당시 KIST의 금속가공연구실장을 맡고 있던 김재관은 보고서 작성의 책임을 맡아 계획을 종합하는 데 핵심적인 역할을 담당했다. 한국은 신사업 계획을 바탕으로 일본과 협상을 벌였으며, 1969년 12월에 「포항 종합 제철 건설에 관한 한일 간 합의서」를 도출할 수 있었다.
1970년 9월에 KIST는 김재관을 연구 책임자로 하여 『중공업 발전의 기반』을 발간했는데, 보고서의 자동차 공업 편에서는 국민 표준 차 혹은 고유 대표 차종의 개발이 주장되었다. 김재관은 1973년 1월에 초대 중공업 차관보로 임명된 후 자동차 업계를 설득하여 고유 모델의 개발을 적극 추진했으며, 이를 통해 ‘자동차 차관보’라는 별명을 얻었다.
김재관은 1975~1980년에 한국표준과학연구원 초대 소장을 지나면서 국가 표준 제도를 확립하는 한편 국가 표준의 측정, 개발, 운영에 대한 토대를 마련했다. 특히 김재관은 1980년에는 국가 표준 제도를 법제화하는 데 심혈을 기울였으며, 이는 제5공화국 헌법(대한민국 헌법 제9호)이 제128조 2항을 통해 '국가는 국가 표준 제도를 확립한다.'라는 문구를 명시하는 것으로 이어졌다.
김재관의 주요 저서에는 『종합제철공장건설을 중심으로 하는 한국제철공업개발에 관한 연구 보고서』(대한민국정부, 1969), 『중공업 발전의 기반』(한국과학기술연구원, 1970), 『국가표준제도의 위상』(경화출판사, 1991) 등이 있다.
김재관은 1971년 국민훈장 동백장, 1988년 5·16 민족상, 2001년 과학기술훈장 혁신장 등을 수상했다.