최씨정권(崔氏政權)의 가노(家奴) 수장이며, 신은현(新恩縣, 현, 황해도 신계군) 출신이다.
무신집권자 최우(崔瑀)의 가노 출신으로서 최우의 신임을 받아 전전승지(殿前承旨)가 되었다. 1249년(고종 36) 최우가 죽자 야별초(夜別抄)와 내외도방(內外都房)을 장악한 상장군(上將軍) 주숙(周肅)은 왕정복고(王政復古)를 도모하려는 생각을 가지고 있었다. 이에 가노 출신인 최양백(崔良伯)·김인준(金仁俊) 이후 [김준(金俊)으로 개명] 등과 함께 최씨의 가병(家兵)을 지휘하여 주숙을 신속히 제압함으로써 서자인 최항(崔沆)이 정권을 계승하는 데 기여하였다. 이 공으로 별장(別將)에 제수되었다.
1258년(고종 45)에는 집정자 최의(崔竩)에 의하여 낭장(郎將)으로 발탁되었다. 이는 노비 출신으로 6품 이상의 벼슬인 참직(參職)에 임용된 파격적인 조치였다. 최우 이후 최의에 이르는 3대에 걸쳐 최씨정권을 섬기고 나이가 많다는 명분이었다. 그러나 이 무렵 최의와는 정치적으로 소원한 관계가 형성되고 있었다. 이 때문에 같은 가노 출신 김인준을 중심으로 한 새로운 권력 관계의 결집에 가담하였다.
이듬해 1259년(고종 46) 대사성 유경(柳璥), 별장 김인준, 장군 박송비(朴松庇), 도령낭장(都領郎將) 임연(林衍) 등과 함께 정변[무오정변(戊午政變)]을 일으켜 최의 일당을 죽이고 최씨정권을 종식시켰다. 정변에 성공한 이후 8공신의 한 사람으로서 장군에 올랐으며, 1262년(원종 3) 위사공신(衛社功臣)이 되었다. 그러나 김준에게 권력이 집중된 이후로는 정치적 입지가 약화된 것으로 보인다.
자신의 권세를 이용, 출신지인 신은현을 담주(覃州)로 승격시켰다.