출신지는 미상이며 외가(外家)는 해양현(海陽縣, 현 光州廣域市)이다. 아버지는 무신집권자 최충헌(崔忠獻)의 가노(家奴)인 김윤성(金允成)이며, 형은 최씨무인정권(崔氏武人政權)을 무너뜨리고 권력을 잡은 김준(金俊)이다.
최씨무인정권의 가노 출신으로서 군인으로 입신(立身)하여 1258년(고종 45) 초에 9품 무관직인 대정(隊正)에 임명되었다. 같은 해 3월 26일(丙子) 김승준의 형인 별장(別將) 김인준(金仁俊, 후에 김준으로 개명)과 대사성(大司成) 유경(柳璥)이 중심이 되어 최씨무인정권을 붕괴시킨 무오정변(戊午政變)에 참여하였다. 무오정변은 최의정권(崔竩政權)의 정치·경제적 실정에 불만을 품은 여러 정치세력이 결집되어 제4대 집권자인 최의를 죽이고 왕정복고(王政復古)를 이룩했던 역사적 사건을 말한다.
김승준은 최의를 제거하고 국왕 고종에게 권력을 돌려준 공을 인정받아 상위직(上位職)에 발탁되었는데, 이때 4등급을 뛰어올라 중낭장(中郎將)에 임명되었다. 고종은 같은 달 29일(己卯)에 공신들을 거느리고 강안전(康安殿)에서 새로 즉위하는 것과 같은 의식을 거행하였다.이어서 4월 1일(庚辰) 유경·김인준·박희실(朴希實) 등과 함께 위사공신(衛社功臣)에 책봉되었으며, 신분이 미천한 김승준의 자손들에게 지배층으로 허통(許通)하게 하였다.
1259년(고종 46) 4월 21일(甲午) 태자 왕전(王倎, 훗날의 元宗)이 몽골제국에 들어가 강화(講和)를 체결할 때, 차장군(借將軍)으로서 참지정사(參知政事) 이세재(李世材)와 함께 수종하였다. 다음해 2월 25일(癸亥) 몽골사신과 함께 개경(開京)으로의 환도(還都)를 촉구하는 쿠빌라이[忽必烈, 世祖]의 조서(詔書)를 가지고 돌아와서 3월 1일(戊辰) 환도를 준비하기 위한 출배별감(出排別監)에 임명되었다. 1262년(원종 3) 10월 6일(己未) 공신당(功臣堂)이 완공되자, 상장군(上將軍)으로서 여타의 위사공신들과 함께 도형(圖形)이 그려지게 되었고, 이 시기에 김충(金冲)으로 개명(改名)하였다. 다음해 12월 20일(丙寅) 우부승선(右副承宣)에 임명되었다.
1268년(원종 9) 3월 21일(壬申) 몽골이 사신을 보내와 김준 부자(父子)와 함께 대도(大都)로 입조(入朝)하게 하였다. 김준이 장군 차송우(車松祐)와 함께 몽골 사신을 죽이고 원종을 폐위시키려 하였으나 김충이 적극 반대하여 실현되지 못하였다. 당시 몽골과 긴밀하게 연결하여 왕권을 강화시키려던 원종은 김준의 처사에 대해 반대하면서 12월 21일(丁酉) 낭장(郎將) 강윤소(康允紹), 추밀원부사(樞密院副使) 임연(林衍) 등을 시켜 김준을 암살하게 하였는데, 이때 김충도 체포되어 처형되었다. 김승준은 김준과 조카들이 불법을 자행할 때 청렴한 절개를 지켜서 항상 간절히 타이르고 나무라기도 하였는데, 처형을 받았을 때 당시 사람들이 애석하게 여겼다고 한다.
1258년(고종 45) 4월 1일 위사공신 제4위에 책봉되었고, 1262년(원종 3) 10월 6일(己未) 공신당의 벽상(壁上)에 도형이 그려졌다. 1268년(원종 9) 12월 21일(丁酉) 김준이 피살된 후 벽상공신(壁上功臣) 호칭이 삭제되었던 것으로 추정된다.