전라남도 영광 출신. 수사공태자소사(守司空太子少師) 김극검(金克儉)의 할아버지이다.
1061년 한림학사, 1068년 병부상서 임명되었고, 1071년 상서좌복야 판상서형부사(尙書左僕射 判尙書刑部事)로 임명되었는데, 같은 달에 참지정사로 바뀌었다. 1073년 중서시랑이 되어 문종의 왕자 상안공(常安公) 왕수(王琇)를 책봉하는 예식을 집행하기도 하였다.
1077년 판상서병부사(判尙書兵部事)에 올랐다가 1087년(선종 4) 문하시랑동중서문하평장사(門下侍郎同中書門下平章事)가 되었다.