대구대목구의 주3 본당인 계산동(桂山洞) 본당 보좌 주4로 발령받아 신암 · 화원 주5를 담당하여 사목 활동을 하였다. 이후 1940년 7월 20일 계산동 본당 주임 주6가 되었다. 1942년 1월부터 5월까지 성 유스티노 신학교에서 잠시 교수로 재직하다가 1943년 5월 20일 전주지목구 나바위 본당 주임 신부로 발령을 받아 7월에 부임하였다.
1944년 12월에 전주지목구 경리 부장, 1945년 2월 14일에 경리 부장 겸 재단 이사로 임명되었다. 당시 재정적 어려움으로 신학생 양성이 7년 동안 이루어지지 못했으나, 김현배 신부는 당시 3명의 신학생을 배출하는 데 기여하였다.
1946년 1월 22일 지목구장 서리로 선임되었다가 1947년 7월 7일 교황청으로부터 제3대 지목구장 임명을 받고, 그해 8월 24일에 지목구장 주7을 가졌다. 1948년 전동성당 내에 무료 진료소를 설치하였고, 이를 바탕으로 다음해 성모병원을 개원하였다. 1949년 성심여자중학교, 1952년 성심여자고등학교, 1960년에는 해성중학교를 설립하였다.
1949년 18개 본당에서 가톨릭 연맹을 조직하여 신자 배가 운동을 벌였다. 6·25전쟁 중 과로로 수류 본당에서 요양하다가 1950년 8월 2일 북한군에 체포되어 신부 4명, 주8 1명과 함께 전주 교도소에 수감되었다. 그해 9월 27일 주9이 후퇴하면서 수감자들을 모두 총살하려고 할 때 김현배 주교와 동료들은 누군가의 도움으로 교도소를 탈출할 수 있었는데, 당시 300여 명이 교도소를 빠져나올 수 있었고, 1000여 명은 총살당하였다.
전쟁 후 파괴된 성당을 복구하는 것과 협소한 성당 건물을 현대식으로 신축하기 위해 노력하면서 1군(郡) 1본당을 목표로 본당 신설에 주력하였다. 그리하여 1955년 장계본당이 새로 설립되었고, 정읍본당이 복원되었다. 1956년 임실본당과 대야본당 신설, 1957년 무주본당 신설, 1958년 고산본당 복원, 1959년 여산본당 신설 등으로 그 결과가 나타났다. 1960년 3월 황등, 순창, 고창에도 본당을 신설하여 당시 전주교구에는 총 24개의 본당이 있었다.
1957년 3월 7일 전주지목구가 대목구로 승격됨에 따라 북아프리카의 ‘아그비아(d'Agbia)’ 명의 주교에 임명되어 사제 서품 25주년이 되는 그해 5월 21일에 주교 주10과 은경축을 가졌다. 그리고 6월 28일에는 주교좌를 전동본당에서 중앙본당으로 이전하고 축성식을 가졌다. 1959년 4월 23일 사제회의를 통해 주11을 신축하기로 결정하고 전주시 중노송동 2가 361번지에 17,000평의 부지를 마련하여 9월부터 공사를 시작하였다. 그러나 지병인 고혈압으로 투병하다가 1960년 4월 30일에 사망하였다.