1905년 5월 인천 제물포에서 철도이원양성소(鐵道吏員養成所)로 개교하였다. 운수과·기차과 2개 과에 입학생은 80명(한국인 40명, 일본인 40명), 교직원은 6명이였다. 1910년 11월 철도종사원교습소, 1919년 경성철도학교, 1925년 철도종사원양성소, 1941년 중앙철도종사원양성소, 1943년 중앙교통종사원양성소로 명칭을 변경하였고, 광복 전까지 1만 2,195명의 졸업생을 배출하였다.
1945년 10월운륜학교(運輪學校), 1949년 6월 교통학교로 교명을 변경하였다. 1962년 1월 학교의 운영권이 철도청으로부터 서울특별시로 이관되면서 일반 공업계인 용산공업고등학교로 개편되었다. 1967년 3월 철도고등학교로 개편하여 전수부가 설치되었고, 1974년 1월 전수부가 전문부로 변경되었다가 1977년 3월 철도전문학교로 독립하였다.
1979년 1월 학제개정에 따라 철도전문대학으로 개편되었으며, 1985년 8월경기도 의왕시 월암동 현재의 위치에 캠퍼스를 조성하여 이전하였다. 1997년 5월 세계철도연맹에 정회원으로 가입하였고, 1999년 3월 한국철도대학으로 교명을 변경하였다. 2004년 3월 산학협력단을 창단하였고, 2005년 운영권이 건설교통부로 이관되었다. 2009년 4월 평생교육원을 개원하였다.
학훈은 ‘백인(百忍)·지성(至誠)·실력(實力)’으로 철도 관련 중견 전문인 양성을 교육목표로 하는 철도 분야 특성화 대학이었다. 한때 성적 우수자의 경우 졸업 후 철도 공무원으로 특별채용되었으나 규정이 변경되어 공개채용을 통해서만 한국철도공사, 한국철도시설공단, 도시지하철공사, 철도관련 산업체 등에 입사할 수 있었고, 수업료 역시 납부하였다.
중국 베이징교통대학교, 러시아 시베리아교통대학교·극동교통대학교, 영국 셰필드대학교(Sheffield University) 등 해외 8개 대학과 교류협정을 맺고 단기연수, 해외 인턴십, 학술교류 등을 시행하였다.
2009년 당시 7개 학과에 재학생은 519명, 전임교원은 21명이었다. 부속기관으로 학술정보관·생활관·외국어교육연구소 등이 있었으며, 부설연구기관에 신교통시스템연구소가 있었다.
2011년 9월 26일 충주대학교와의 통합이 승인되어, 2012년 3월 1일부로 한국교통대학교 변경되었다.