1590년(선조 23) 증광 문과에 병과로 급제해, 승문원권지정자(承文院權知正字)를 거쳐 예문관검열로 옮겼다가 천연두가 발병해 사직하였다. 1592년(선조 25) 임진왜란이 일어나자 향리인 안동에서 의병을 일으켜 안동수성장(安東守城將)에 추대되었고, 이듬해 예문관의 검열 · 봉교(奉敎), 성균관의 전적(典籍) 등을 지냈다.
이어 정언(正言) · 헌납(獻納) · 부수찬(副修撰) · 지평(持平) 등을 거쳐 이조정랑에 올랐다. 1597년 정유재란이 일어나자 제도도체찰사(諸道都體察使) 이원익(李元翼)의 종사관으로 수행해 많은 활약을 했으며, 교리에 재임 중 독운어사(督運御史)로 나가 군량미 조달에 많은 공을 세웠다.
그러나 조정에서 동서분당(東西分黨)이 생겨 김용을 후원하던 영의정 유성룡(柳成龍)이 서인에 의해 축출되자, 탄핵을 받아 선산부사로 옮겨졌다. 이 때 금오서원(金烏書院)을 이건하고 향교를 중수하는 등 문교에 힘썼다. 이후 계속되는 대간의 탄핵을 받으며 중앙 관직과 지방 관직을 전전하였다.
일시 제용감정(濟用監正) · 세자필선(世子弼善) · 집의(執義) 등 중앙 관직에 머물다가 예천군수 · 상주목사 · 홍주목사 등의 지방 관직을 지내면서 오직 백성의 보호와 학문의 진흥에 힘썼다.
1609년 봉상시정(奉常寺正)으로 춘추관편수관을 겸해 『선조실록(宣祖實錄)』의 편찬에 참여했으며, 그 공으로 통정대부에 올라 병조참의를 지냈다. 그 후 1616년 60세의 나이로 여주목사로 나갔다. 조정의 당쟁이 날로 심해지자 맏아들의 죽음을 구실로 향리로 돌아왔다가 4년 뒤에 죽었다.
안동 임호서원(臨湖書院) · 묵계서원(默溪書院) 등에 제향되었다. 저서로는 『운천집』 · 『김용 호종일기』(보물, 1968년 지정) 등이 있다.