본관은 전주(全州). 대장군 정원녕(鄭元寧)의 아들이다.
처음 음보(蔭補)로 양온령동정(良醞令同正)이 되어 내시(內侍)로 들어간 이후, 명종∼강종대까지 고위 문·무관을 두루 역임하면서 내란을 진압하고 민생을 보살폈다.
1174년(명종 4)에 발생한 조위총(趙位寵)의 난에서 공을 세워 금오위 산원(金吾衛散員, 정8품)이 되었다가 장군(將軍, 정4품)으로 올랐다. 다시 망이(亡伊)·망소이(亡所伊)의 항쟁을 진압하여 그 공으로 대장군(大將軍, 종3품)이 되었다. 정극온이 처음에 내시로 시작해서 무신정변 이후 무반의 직책을 주로 띤 것은 무신정권이라는 시대적인 배경이 정극온의 관직 생활에도 영향을 끼쳤음을 의미한다.
상장군(上將軍), 상서우복야(尙書右僕射), 추밀원부사(樞密院副使)를 역임하였다. 1212년(강종 원년) 12월에 수사공 좌복야 판삼사사(守司空左僕射判三司事, 정2품)가 되었고, 뒤이어 어사대부 지문하성사(御史大夫知門下省事)를 거쳐 참지정사(參知政事)가 되었다. 말과 행동에 모남이 없어 가는 곳마다 위엄과 은혜를 함께 베풀었다고 한다.
고려 제22대 강종의 묘정(廟廷)에 배향되었고, 시호는 익렬(翼烈)이다. 정극온의 열전(列傳)이 『고려사』 권101에 실려 있다. 또한 『동국이상국집(東國李相國集)』과 『동문선(東文選)』에는 이규보(李奎報)가 쓴 ‘고참지정사 정극온배향 신종교서(故叅知政事鄭克溫配享神宗敎書)’가 전해지고 있다.