가계와 출신지는 자세하지 않다. 김계부(金繼夫)는 거란의 제2차 침입(1010(현종 1)∼1011(현종 2)) 때 활약하였다. 1010년(현종 원년) 11월에 거란의 성종이 직접 40만 대군을 이끌고 고려를 침입하였다. 이 때 고려에서는 강조(康兆)가 30만 군사를 이끌고 통주(通州, 평안북도 선천군) 삼수채에서 방어했지만 많은 군사를 잃었고, 강조 자신은 거란의 포로가 되어 죽임을 당하였다. 이러한 불리한 전황 속에서 김계부는 좌우기군장군(左右奇軍將軍, 종4품) 김훈(金訓) 등과 더불어 완항령(緩項嶺)에서 군사를 매복하고 있다가 기습작전을 벌여 거란 군사를 크게 격파하였다. 그 공로로 김계부는 거란군이 물러간 1011년(현종 2) 2월에 병부시랑(兵部侍郎, 정4품)으로 승진하였다.