성벽 길이 210m, 동서 너비 80m, 남북 너비 25m, 성내면적 205평. 이 산성은 일반적인 산성에 비하여 아주 소규모로서 전투를 위한 순수 군사목적의 성곽이라고 보기에는 미비한 점이 많다.
해발 450m 정도의 태령산은 길상산(吉祥山)·장태산(藏胎山)·태봉(胎峯) 등의 이름으로 불려졌는데, 《삼국사기》에는 김유신(金庾信)의 태(胎)를 묻은 산으로 기록되어 있다. 어떠한 연유에서 김유신의 태를 이 산에 묻게 되었는지 그 확실한 흔적을 찾아 내지는 못하고 있다.
따라서 김유신의 태를 묻은 곳이 태령산성 성내에 있는지의 여부도 확인되지는 못하였으나, 주민들은 성내에서 가장 높은 봉우리를 장태처(藏胎處)로 부르고 있다.
태령산성을 축조한 연유도 확실한 내용이 밝혀진 바가 없으나, 김유신의 장태처를 보호하기 위한 목적 외에 주변의 여러 산성(만뢰산성·문안산성·도당산성)의 연결통로에 자리잡고 있다는 점에서 군사적인 측면을 생각할 수 있는 정도이다.
성벽의 본래 높이를 추정할 만한 유구도 남아 있지 않으며, 일부 무너진 채 남아 있는 성벽도 잡석에 가까운 자연석을 적당히 쌓아올린 정도이다. 산 아래에 김유신의 탄생지가 전하여지고 있으며 김유신의 사당인 길상사(吉祥祠)가 있었는데, 지금은 도당산성 아래쪽으로 옮겨져 있다.