백제시대의 열야산현(熱也山縣)이었는데, 당나라가 점령하여 노산주(魯山州)로 고쳤다. 신라 경덕왕 때 이산(尼山)으로 고쳐 웅주(熊州)의 영현(領縣)으로 하였다. 1018년(현종 9)공주(公州)로 예속되었다.
1414년(태종 14)석성(石城)과 합쳐 이성(尼城)으로 하였다가 1416년 다시 나누었다. 정조 초에 노성으로 고쳤고, 1895년 23부제 실시 때 공주부 관할의 군이 되었으며, 1896년 13도제 실시 때 충청남도의 4등군이 되었다. 1914년 행정구역개편에 따라 논산군 노성면이 되었으며, 1996년 군이 시로 승격되었다.
지명유래는 이산현의 지형이 공자가 탄생한 중국노나라 이구산(尼丘山)의 지형과 비슷하다 하여 ‘노’(魯)자를 따고 이산(尼山)의 성을 상징하는 ‘성’자를 따서 노성이라 부르게 되었다고 전한다.