본관은 광산(光山). 첫 이름은 김의문(金義文), 자는 유승(柔勝). 아버지는 시중을 지낸 김양감(金良鑑)이다.
과거에 급제한 뒤 상의봉어(尙衣奉御)로 광주통판(廣州通判)으로 나갔다가 돌아와 중서사인(中書舍人)이 되었다. 이어 합문사(閤門使)가 되었으며 1122년(예종 17)에는 지추밀원사 겸 태자빈객(知樞密院事兼太子賓客)에 올랐다.
이 해 5월 인종이 즉위한 뒤 참지정사가 되었다. 이듬해 중서시랑평장사에 임명되고, 다음 해에 검교사도 수사공 상주국(檢校司徒守司空上柱國)이 되었다. 1139년(인종 17)에 문하시중으로 사직하였다.
성품이 공검(恭儉), 청렴하고 교만하지 않아, 이자겸(李資謙)이 권력을 쥐고 휘두를 때 그와 인척간이면서도 가까이하지 않았다. 또한 평장사 시절 이자겸의 생일을 인수절이라고 부르는 것에 반대하는 김부식에게 동조하였다. 시호는 사정(思靖)이다.