전임관(專任官)이 아니고 타관(他官)이 겸임하였다. 문관만이 할 수 있었으며, 문형(文衡)을 잡고 있었다. 대제학 아래 벼슬인 제학은 신라·고려 시대에 학사(學士 : 翰林學士·侍講學士·侍讀學士 등)라 불리다가 1308년(충렬왕 34) 충선왕이 실권을 잡자, 문한서(文翰署)와 사관(史館)을 병합해 예문춘추관으로 하였다.
여기에 종2품의 대사백(大詞伯)과 정3품의 사백을 두었는데, 뒤의 대제학과 제학의 전신이다. 즉, 1356년(공민왕 5) 한림원을 복구하고 학사를 두었으며 1360년에 대학사를 설치했다가 1362년 예문관이라고 칭해 대학사를 대제학, 학사를 제학으로 고쳤던 것이다.
한편, 1314년(충숙왕 1)에는 보문각(寶文閣)에 정2품의 대제학을 설치하기도 하였다. 또 제관전(諸館殿)인 우문관(右文館)에 정2품의 대제학과 정3품의 제학, 진현관(進賢館)에 종2품의 대제학과 정3품의 제학을 두기도 하였다.
조선시대에 들어와 태조 1년 7월의 신반관제(新頒官制)를 보면, 예문춘추관에 대학사 2인이 있어, 정2품으로서 자헌(資憲) 이상이 겸하고, 학사는 2인에 종2품으로서 가선(嘉善) 이상이 겸한다고 되어 있다. 1401년(태종 1) 7월의 관제 개혁 때 예문춘추관을 예문관과 춘추관으로 분리시켜 예문관은 녹관(祿官)으로 하고 춘추관은 겸관(兼官)으로 정하였다.
예문관에 대제학 1인과 제학 1인을 두었는데, 이것은 예문춘추관의 대학사와 학사를 개칭한 것이며 정원도 2인에서 1인으로 감축하였다. 이것은 그 뒤 ≪경국대전≫에 그대로 법제화되었으나, 종전과 다른 것은 녹관이 겸관으로 바뀐 점이다.
홍문관의 대제학은 1420년(세종 2) 3월 제관전, 즉 수문전(修文殿)·집현전·보문각을 집현전으로 통합, 강화할 때 대제학 2인에 정2품, 제학 2인에 종2품으로 정해 겸관으로 하였다. 그러나 1456년(세조 2) 6월 사육신사건으로 혁파하였다.
1463년 11월양성지(梁誠之)의 건의로 집현전 대신 홍문관을 설치해 대제학 1인, 제학 1인 등 많은 관원을 두어 모두 겸관으로 하였다. 하지만 장서기관(藏書機關)에 지나지 않았으며, 겸예문(兼藝文)이 홍문관을 운용하는 체제를 세웠다.
1478년(성종 9) 3월 겸예문 체제에서 벗어나 집현전적인 홍문관으로 기능을 강화해 ≪경국대전≫에 법제화되었다. 대제학은 ≪경국대전≫ 이후 아무 변화 없이 ≪대전회통≫까지 이어졌다.