국초의 사헌대(司憲臺)를 995년(성종 14)에 어사대(御史臺)로 고치면서 처음으로 설치하였다. 문종 때에 종6품의 10인으로 정비되었고, 1202년(신종 5)에는 그 중 2인을 올려서 참질(參秩, 參上)로 하였다.
1275년(충렬왕 1)에 어사대를 감찰사(監察司)로 고치면서 감찰어사도 감찰사(監察史)라 하였다. 1298년에 충선왕이 감찰사(監察司)를 사헌부라 고치면서 감찰사(監察史)를 감찰내사(監察內史)로 고치고 6인으로 줄였으나, 다시 사헌부를 감찰사로 고칠 때 감찰내사도 감찰어사로 고쳐졌다.
1308년(충렬왕 34)에 충선왕이 다시 사헌부로 고치면서 감찰어사도 규정(糾正)이라 고치고 14인으로 늘렸으며, 그 가운데 4인은 겸관(兼官)으로 하여 모두 종6품으로 하였다.
그 뒤 1356년(공민왕 5)에 다시 어사대라 하면서 규정을 감찰어사로 고쳤고, 1362년에 다시 감찰사(監察司)로 하면서 감찰어사를 다시 규정이라 하였다.
감찰어사는 대관(臺官)의 일원으로서 백관(百官)의 규찰(糾察)과 제사(祭祀)·조회(朝會)·전곡(錢穀)의 출입 등을 감찰하는 임무를 수행하였다.