아버지는 무신정권기의 권신(權臣) 김준(金俊)이다. 본래 천예(賤隷) 출신이었으나, 아버지가 최씨집안의 가신이 되어 최항(崔沆)을 옹립하고 최항의 신임을 받아 점차 세력을 가지게 되었다.
1258년(고종 45) 유경(柳璥)·김준(金俊)이 왕권복고의 명분으로 최의(崔竩)를 제거할 때 같이 가담하여 정변에 성공한 뒤 장군이 되었다. 또한, 아버지의 권세를 믿고 시중 무뢰배들을 모아 함부로 남의 전호를 빼앗아 원성이 높았다.
1260년(원종 1) 수도를 강화(江華)에서 개경(開京)으로 옮기지 않는다고 몽고사신 야속달(也速達)에 의해 추밀사(樞密使) 김보정(金寶鼎)과 더불어 구류되었으나, 몽고에 다녀오던 태자의 요청으로 풀려났다.
1262년 아버지 김준과 더불어 벽상공신(壁上功臣)에 올랐으나, 1268년 이들의 세력을 배척하던 환관 강윤소(康允紹)와 왕의 지시를 받은 임연(林衍)에 의하여 정변이 일어나 아버지 김준과 함께 죽임을 당하였다.