황궁 내외의 수위, 각종 규찰 및 정보수집, 국법 위반자에 대한 수사와 체포 등의 업무를 전담하는 일종의 특수 경찰 기관 역할을 하였다. 그뿐만 아니라 지방의 경찰 사무 일체를 경무청의 소관으로 하였음에도 불구하고 개항장(開港場) 경무서(警務署)의 사무는 경위원이 전담하였다. 경위원에는 총관(摠管)에 장령관(將領官) 1인, 총무국장 1인, 경무관 5인, 주사 6인, 총순(摠巡) 16인이 있었고, 뒤에 주사 1인을 증원하였다.
1902년에 드러난 유길준과 일본 유학생의 쿠데타 모의에 연루된 사람들과 문초 과정에서 거명된 사람들을 체포하였고, 정치인들에 대한 살해 모의를 사전에 탐지하여 체포하였으며, 정부에 저항하는 각종 언론 행위를 탄압하였다. 정부 대신들의 동태를 파악하고 의심되는 지방관이 있으면 그를 체포하고 구금하기도 하였다.
1901년 11월, 내부(內部) 산하에 황제의 의도에 맞는 새로운 형태의 경찰 기구가 창설되었는데, 궁내의 경무서를 승격하여 독립시킨 것이 경위원이다. 기존의 경부관제는 이전의 경무청관제로 하향 조정되면서 경찰 기구는 황제 직속의 경위원과 정부 산하의 경무청으로 이원화된 체제로 운영되었다. 경위원은 1910년에 폐지되었다.
대한제국 황실의 치안 별동대로 기능하면서 체제 안정에 반하는 일체의 정치 행위를 규제하고 금지하는 등 정치적 동향에 적극 대응하였다. 그러나 초법적 권한을 행사하는 과정에서 양민들의 일상까지 침해하여 민원의 대상이 되기도 하였다.