본관은 경주(慶州). 호는 설당(雪堂). 아버지는 김돈중(金敦中)이며, 할아버지는 김부식(金富軾)이다.
일찍부터 문학에 뛰어난 재능을 보여 1194년 괴과(魁科)에 뽑혀 직한림원(直翰林院)이 되었다. 1195년(명종 25)에 왕이 친히 제목을 내려 문신들의 시부(詩賦)를 시험하였을 때 장원을 하였다. 1210년(희종 6) 공주지사(公州知事)를 거쳐 고종 초년에 예부시랑(禮部侍郎)에 이르렀다. 이 무렵 제도찰방사(諸道察訪使)로 지방행정의 감찰을 위해 파견되기도 하였다.
1216년(고종 3) 8월 거란족의 침입으로 5군(五軍)이 편성되자 전군(前軍) 병마부사(兵馬副使)에 임명되었다. 1218년 일단 물러났던 거란족이 다시 군세를 정비해 남하하자 당시 좌간의대부(左諫議大夫)로서 조충(趙沖)을 대신해 서북면병마사(西北面兵馬使)의 직임을 띠고 파견되었다. 이때 북계(北界)의 군사들을 지휘해 거란족들을 숙주(肅州: 평안남도 평원군 숙천)와 영청(永淸: 평안남도 평원군 영유) 등지에서 격파, 적 430여 명을 베고 21명을 포로로 하고, 53필의 말을 얻는 등 커다란 승리를 거두었다.
이듬해 의주(義州)의 별장(別將) 한순(韓恂)·다지(多智) 등이 방수장군(防戍將軍) 조선(趙宣)과 수령 이체(李棣) 등을 죽이고 반란을 일으켰다. 이때 중군병마사(中軍兵馬使)에 임명되어 지모(智謀)로써 적괴(賊魁)의 머리를 베어 반란을 진압하였다.
그러나 적괴의 머리를 보고를 하지 않고 개성으로 보낸 일 때문에 병마사 김취려(金就礪)의 미움과 관하의 녹사(錄事) 노인수(盧仁綬)의 참소를 받아 상공(賞功) 대신 도리어 한남(漢南: 지금의 경기도 수원)으로 귀양가게 되었다. 서북면병마사 재직 중 청백(淸白)과 애민(愛民)으로 이름이 높았기 때문에 당시 사람들은 김군수의 귀양을 몹시 애석히 여겼다.
시문(詩文)에 뛰어날 뿐만 아니라 대나무를 잘 그린 것으로도 유명하였다. 『동문선(東文選)』에 「서요성역(書聊城驛)」·「동도객관(東都客館)」 등의 시가 전하며, 송광사(松廣寺)의 「보조국사비명(普照國師碑銘)」은 1210년(희종 6) 김군수가 공주에 외관으로 나가 있을 때 찬한 것이다.