김준은 1258년(고종 45) 무오정변(戊午政變)을 주동하여 위사공신(衛社功臣)에 이어 시중(侍中)까지 오른 무신이다. 무오정변은 김준이 유경·박송비 등과 함께 최씨 무신정권의 4대 집정자 최의를 제거하여 왕정복고를 이룬 정변을 가리킨다. 이후 김준은 자기 휘하의 위사공신들과 연대하여 유경 등을 실각시키면서 ‘김준 정권’을 탄생시키고, 1265년(원종 3) 시중에 오르면서 해양후(海陽侯)에도 책봉되었다. 그는 정권을 독차지하면서 국왕 원종 및 몽골과 갈등하다가 1268년(원종 9) 임연에게 참살되었다.
초명은 김인준(金仁俊)이며, 아버지는 최충헌(崔忠獻)의 가노(家奴)인 김윤성(金允成)이다.
활쏘기와 말타기를 잘하였고, 협기(俠氣)가 있어 최씨 무신정권의 2대 집정자 최이(崔怡: 초명 최우(崔瑀))에게 발탁되어 전전승지(殿前承旨)가 되었다. 또한 최이의 아들 최항(崔沆)이 정권을 세습하는 데 공이 있어 별장(別將)이 되었다. 그러나 최항의 뒤를 이은 최의(崔竩)가 최양백(崔良伯) · 유능(柳能) 등을 신임하고 자기를 멀리하는 데 불만을 품고, 1258년(고종 45) 유경(柳璥) · 박송비(朴松庇) 등과 모의하여 최의를 죽이고 왕정복고를 꾀하였다.
무오정변의 성공으로 장군(將軍)에 오르고 위사공신(衛社功臣) 2등이 되었다. 그러나 정치의 실권이 유경에게 돌아가자 동생 김충(金冲: 초명 김승준(金承俊))과 함께 고종에게 참소하여 유경의 승선(承宣) 직을 파면하게 하고, 그의 일당인 우득규(禹得圭) · 김득룡(金得龍) 등을 참살하고, 경원록(慶元錄)은 유배보냈다. 이로써 ‘김준 정권’을 탄생시켰다.
권력을 장악한 이후 1259년(고종 46)에 원종이 즉위하고 1260년(원종 1) 위사공신의 차례를 고쳐 자신을 제1로 하였으며, 추밀원부사 어사대부 주국 태자빈객 익양군 개국백(樞密院副使御史大夫柱國太子賓客翼陽郡開國伯)에 봉하도록 하였다. 1263년(원종 4)에는 수태위 참지정사 판어사대사 태자소사(守太尉參知政事判御史臺事太子少師)의 직위에 올랐다.
1264년(원종 5) 8월에 원종이 몽골로 가기 전에 최씨 무신정권의 권력 기반인 교정별감(敎定別監)에 임명되어 관리의 비위를 규찰하는 일을 담당하였고, 뒤이어 감국(監國)의 임무를 담당하여 왕의 부재 시에 국정을 보살필 수 있는 권력을 장악하였다. 1265년(원종 6)에 원종이 귀국한 후에 시중(侍中)에 임명되고 해양후(海陽侯)에도 책봉되었다. 이처럼 권력의 절정에 오르자 김준의 일족이나 자식들도 탐학을 일삼아 물의를 빚었고, 백성을 괴롭힐 뿐만 아니라 왕실에 바치는 내선(內膳)까지도 탈취하였다.
1268년(원종 9) 몽골에서 사신을 보내와 징병(徵兵)에 관한 조서를 전하는 동시에 김준 부자와 아우 김충을 모두 연경(燕京)으로 입조하도록 하는 사건이 발생하자, 두려움을 느껴 장군 차송우(車松佑)와 의논하여 몽골 사신을 죽이고 원종의 제거를 꾀하게 되었다. 그러나 아우 김충의 반대로 그 계획이 실현되지 못하였다. 왕권 강화를 위해 몽골과의 강화를 도모하던 원종은 몽골 사신을 반대하는 김준의 태도를 못마땅하게 생각하다가, 김준의 모의 사실을 알게 되어 강윤소(康允紹) · 임연(林衍) 등을 시켜 참살하였다.
1258년 위사공신에 책록되어, 1262년 10월에 공신당(功臣堂)의 벽상에 도형이 그려졌다. 1265년에 해양후에 책봉되었다.