조선시대의 경우에는 기로소(耆老所)라 하여 국가에서 제도화하여 운영하였으나, 고려시대의 경우는 치사(致仕 : 벼슬에서 물러남.)한 대신들에 의해서 사적(私的)으로 조직되었다.
신종과 희종 때에 동중서문하평장사(同中書門下平章事)의 벼슬에 이르러 치사한 최당(崔讜)을 중심으로 최선(崔詵)·장백목(張白牧)·고형중(高瑩中)·이준창(李俊昌)·백광신(白光臣)·현덕수(玄德秀)·이세장(李世長)·조통(趙通) 등 나이가 많아 벼슬에서 물러난 사람들이 기로회를 만들어 만년을 즐겁고 한가하게 즐기니, 당시의 사람들이 이들을 지상선(地上仙)이라고 일컬었다는 기록이 있다.
또한, 고종 때에 상서좌복야(尙書左僕射)의 벼슬로 치사한 유자량(庾資諒)도 다른 치사한 재상과 더불어 기로회를 만들어 부처 섬기기를 매우 돈독하게 하였다는 기록이 있다.
그 뒤에도 퇴직한 재신(宰臣)들은 기로회를 조직하여 모임을 가졌고, 고려 말의 명나라에 대한 종계변무문제(宗系辨誣問題)나 이성계(李成桂)의 등극과 새 왕조의 개국승인을 명나라에 청하는 문제를 의논할 때 기로와 종친, 그리고 고위관원들이 참여하였다는 기록도 보인다.