983년(성종 2)부터 그 존재의 가능성은 확인되고 있으나, 직제상으로 확립된 것은 문종 때부터이다. 이 때 관원으로는 영(令) 2인, 승(丞) 2인을 두었고, 이속(吏屬)으로 사(史) 6인, 기관(記官) 2인을 두었다. 그 뒤 장례서(掌醴署)로 개칭하였다가, 1098년(숙종 3)에 양온서로 고쳤다.
1279년(충렬왕 5)에는 선송주색(宣送酒色)을 없애고 그 기능을 흡수하면서 참상(參上)·참외직(參外職)의 별감(別監)이 각각 1인씩 두어졌다. 1308년(충렬왕 34) 충선왕이 즉위하여 사온서로 개칭하면서 직제의 개편을 단행하였다. 1356년(공민왕 5)에는 다시 양온서로 되었으며, 같은왕 11년에 사온서, 18년에 양온서, 21년에 사온서로 되는 등 잦은 개편이 있었다.