1895년(고종 32) 6월 15일에 갑오 개화파 정부에서 법부 산하에 설립하였다. 법률기초위원회는 형법, 민법, 상법, 치죄법, 소송법 등을 조사하고 제정하거나 개정하는 역할을 맡았다. 설립 당시 위원장은 법부 협판이, 위원은 법부 민사국장, 형사국장, 검사국장, 한성재판소 판사, 법관 양성소장이 겸임하였다.
아관파천 이후인 1897년, 중추원 내에 교전소를 설치하여 신구법의 절충을 통한 법전 편찬을 준비하였다. 그러나 이 기구에는 보수적 인사와 개화파 인사가 섞여 있어 의견 일치를 보지 못하였고 활동도 오래 지속될 수 없었다. 이후 대한제국 시기인 1899년 설치된 법규교정소도 「 대한국국제」 제정 이후 뚜렷한 활동 없이 유명무실하게 되었다.
이러한 상황에서 러일전쟁 이후 일제 통감부가 설치될 때까지 법률의 기초 실무는 법률기초위원회가 담당하였다. 이후 법률기초위원회는 위원장 1인, 위원 8인으로 구성되었는데, 1900년(광무 4) 이후 4명은 법부 고등관으로, 4명은 법률에 밝은 인물로 법부대신이 임명하였다.
1899년(광무 3)부터 1905년(광무 9) 사이의 위원과 위원장을 보면 위원장은 법부 협판과 사리국장 등이, 법률기초위원은 대부분 갑오개혁 이후 설립된 법관 양성소, 중교의숙, 관립일어학교 등 신식학교 졸업생 또는 게이오의숙[慶應義塾]이나 쥬오대학[中央大學] 졸업생 등 일본 유학 경력이 있는 젊은 법률 전문가로 구성되었다.
1905년(광무 9) 7월 18일에 법부령 제2호 「법률기초위원회규정」에 따라 법률 기초상 필요한 사항이 있을 때에는 내외 각 관청에 조회하여 탐문하고 위원을 파견하여 조사할 수 있는 권한을 부여받았다. 법률은 법부 주임관을 겸하지 않은 전임위원이 기초하여 위원장에게 제출하면 겸임위원들이 토론하여 가결한 후 위원장이 대신에게 제출하는 형식을 갖추었다. 그러나 을사늑약으로 통감부가 설치되면서 이러한 시도는 좌절되었다.