1975년 4월 1일 「국세기본법」에 의하여 설치되었다. 조직은 1급 상당의 별정직 소장과 상임심판관(5인)·비상임심판관(내국세 담당 9인, 관세 담당 3인 이내) 및 조사관(10인)과 행정조정실로 구성되었다.
국세심판에 관한 회의는 상임심판관 2인과 비상임심판관 2인으로 구성되는 심판관회의와, 소장·상임심판관·비상임심판관 전원으로 구성되는 심판관합동회의가 있었다.
현행 불복절차제도는 위법, 부당한 국세행정처분으로 권리나 이익의 침해를 당한 납세자가 법원에 행정소송을 제기하기에 앞서, 당해 세무서장 또는 국세청장에게 이의신청이나 심사청구를 제기하여 그 결정에 불복하면, 국세심판소장에게 심판청구를 제기한 뒤에 행정소송을 제기할 수 있도록 되어 있었다.
그러나 2000년 1월 1일 국세심판원으로 개칭되면서 종래 이의신청이나 심사청구를 하였으나, 여기에 심판청구가 첨가되어 심판청구나 심사청구 가운데 하나만 선택하도록 규정되었다.
최초의 불복청구(이의신청 또는 심사청구)는 그 처분의 통지를 받은 날로부터 60일 이내에 제기하여야 하며, 이를 접수한 기관이 세무서일 경우는 30일, 국세청일 경우에는 60일 이내에 결정하여야 하는데, 이에 불복하는 경우에는 국세심판소에 청구하도록 되어 있었다.
국세심판소장은 접수한 심판청구사건을 담당할 주심국세심판관 1인과 배석국세심판관 2인 이상을 지정하였으며, 담당 국세심판관은 조사·심리를 위하여 처분청이나 청구인·참고인 등에 대하여 질문권과 장부·증거서류 제출요구권이 있었고, 사실판단은 자유심증에 의하였다.
국세심판관회의의 결정은 관계행정청을 기속하며, 심판례는 중요한 세법해석으로서 중시되었다. 국세심판관은 특정 청구사건에는 제척되거나 또는 스스로 회피하여야 하며, 물론 심판청구인에게도 국세심판관의 기피신청권이 인정되었다.
2000년 1월 국세심판소가 국세심판원으로 기관명을 변경하였으며, 2008년 2월 국세심판원에 지방세법위원회를 통폐합하여 조세심판원이 새롭게 출범하였다. 2012년 12월 조세심판원이 세종특별자치시로 이전하여 지금에 이르고 있다.