본래 신라의 모혜현(芼兮縣)이었는데 757년(경덕왕 16)효령현으로 고쳐 숭선군(嵩善郡 〉 : 지금의 구미)의 영현(領縣)으로 하였다.
1018년(현종 9)상주에 이속시켰다가 1143년(인종 21)에 일선군(一善郡)에 환속시켰다. 1314년(충숙왕 1)에 효령부(孝令府)로 개칭하고, 1389년(공양왕 1)에 감무(監務)를 두었다. 1413년(태종 13)군위현에 예속시켜 효령면이 되었다.
지명유래는 옛 지명인 모혜와 관련이 있는데 ‘들판’이라는 뜻을 갖는다. 이곳의 지형은 낙동강의 지류인 병천(幷川)의 상류지역을 차지하여 비교적 넓은 평야가 발달하였다.
팔공산(八公山)에서 뻗은 낮은 산줄기가 이곳을 에워싸고 있었는데 박달산(朴達山)·한적산(韓赤山)·금산(錦山) 등이 있었다. 도봉산(到鳳山) 밑에는 신흥사(新興寺)가 있었고, 남쪽의 소계역(召溪驛)을 지나 칠곡(漆谷)과 이어졌다.
북쪽으로는 군위와 연결되고 동쪽은 신녕(新寧), 서쪽은 인동(仁同)과 이어졌다. 또한 창(倉)이 있어 이곳의 물산을 모았다.