본래 1391년(공양왕 3) 관현방(管絃房)을 폐지하고 종묘의 악가(樂歌)를 익히기 위하여 고려의 음악기관으로 설치되었으나, 고려가 망함으로써 1392년(태조 1)전악서(典樂署)와 함께 계승되었다.
주요업무는 종묘제향악과 같은 제향(祭享)에서 악기로 연주되는 아악만을 관장하였고, 세종때에는 조회에서 아악을 연주하기도 하였다. 그래서 같은 아악이라도 노래와 춤을 관장했던 봉상시(奉常寺)와 향악(鄕樂)·당악(唐樂)을 관장하던 전악서와는 업무가 구분되었다.
1409년(태종 9) 예조는 종5품의 전악(典樂), 종6품의 부(副)전악, 종7품의 전율(典律), 종8품의 부전율, 종9품의 직률(直律) 등의 체아직(遞兒職) 녹관(祿官)을 두어 아악의 교육과 연습에 관한 업무를 책임지도록 하였다.
1457년(세조 3) 전악서와 더불어 장악서(掌樂署)로 통합되었다.