어사대는 백관(百官)의 규찰(糾察)과 제사(祭祀) · 조회(朝會) · 전곡(錢穀)의 출입 등을 감찰하는 임무를 수행하는 관서인데, 감찰어사는 그 말단의 관직이었다. 따라서 감찰어사는 어사대의 기능 중 주로 관료들의 활동을 규찰하는 일을 주로 담당하였다.
국초의 사헌대를 995년(성종 14)에 어사대로 고치면서 처음으로 설치하였다.
문종 때에 종6품의 10인으로 정비되었고, 1202년(신종 5)에는 그 중 2인을 올려서 참질(叅秩)로 하였다. 그러나 인종대 녹봉을 개정하면서 참상(參上), 참외(參外)의 구분이 변경될 때 이미 감찰어사도 참외에서 참상의 말단으로 변하였을 것으로 파악된다.
1275년(충렬왕 1)에 어사대를 감찰사(監察司)로 고치면서 감찰어사도 감찰사(監察史)라 하였다. 1298년(충선왕 1)에 충선왕이 감찰사를 사헌부(司憲府)라 고치면서 감찰사를 감찰내사(監察內史)로 고치고 6인으로 줄였으나, 다시 사헌부를 감찰사로 고칠 때 감찰내사도 감찰어사로 고쳐졌다.
1308년(충렬왕 34)에 충선왕이 다시 사헌부로 고치면서 감찰어사도 규정(糾正)이라 고치고 14인으로 늘렸으며, 그 가운데 4인은 겸관(兼官)으로 하여 모두 종6품으로 하였다.
그 뒤 1356년(공민왕 5)에 다시 어사대라 하면서 규정을 감찰어사로 고쳤고, 1362년(공민왕 11)에 다시 감찰사(監察司)로 하면서 감찰어사를 다시 규정이라 하였다.