강원도 강릉시를 비롯하여 충청북도 진천군, 경상북도 군위군 일대에서 장군신으로 받들어진다.
삼국통일을 이룩한 그의 영웅적이고 신이(神異)로운 행적이 백성들로부터 많은 추앙을 받아 신으로 모셔진 듯하다.
≪삼국유사≫에서 그의 탄생을 일러 “칠요(七曜)의 정기를 타고났으므로 등에 칠성의 무늬가 있고, 또 신이한 일이 많았다.”고 했듯이 탄생부터가 범상한 인물이 아니었다.
또한, 이규경(李圭景)의 ≪오주연문장전산고≫에 “경상도 군위현에 김유신신사(金庾信神祠)가 있는데 거기에는 그의 어머니 만명(萬明)을 모시고 있으며, 무녀들이 그 만명을 섬기는데 신당에는 반드시 명도(明圖)라는 구리거울을 걸어놓았다.”고 한다.
이것으로 보아 김유신과 함께 그의 어머니 만명도 신격화되어 있음을 알 수 있다. 따라서 무속에서 받드는 ‘말명할머니’는 다름아닌 ‘만명’인 것이다.
김유신은 특히 단오제와 관련하여 숭배되었다. 강원도의 대관령산신당은 김유신을 산신으로 모시고 있는데, 강릉단오제와 관련된 다음과 같은 기록이 있다. 허균(許筠)의 ≪성소부부고 惺所覆瓿藁≫ 권14 대령산신찬조(大嶺山神贊條)의 내용에는 그가 여름에 강릉에 가서 단오제를 구경한 일이 있다.
명주(溟州 : 지금의 강릉)사람들이 장차 5월의 길일을 택해 대령신(大嶺神 : 대관령 산신)을 맞으러 갈 때 그 신에 대해 이속(吏屬)에게 물어보니 “그 신은 다름아닌 신라대장군 김유신”이라고 대답했다고 한다. 그리고 그 신은 영이(靈異)함이 있어 명주사람들은 매년 5월초 길일에 제사를 지낸다고 하였다.
현재도 강릉에서는 산로안전(山路安全)과 풍농·풍어를 비는 강릉단오제가 거행되고 있는데, 이때 주신인 서낭신은 범일국사신(梵日國師神)이고, 산신은 김유신장군신이라고 한다. 그러나 허균의 시문집에 표현된 기록을 따른다면 김유신이 주신이 된다. 또한 강릉 시내에 김유신사당인 화부산사(花浮山祠)가 있는데, 지금도 매년 오월단오에 제사를 지내고 있다.
경상북도 군위에 있는 김유신사당에 대해서는 ≪동국세시기≫ 단오조에 다음과 같은 기록이 있다. “군위군 효령(孝靈) 서악(西岳)에 김유신사당이 있는데, 속칭 삼장군당(三將軍堂)이라 한다고 했다.
여기서 매년 단오날에 그 고을 수석 아전이 고을사람들을 데리고 역마로 깃발을 들고 북을 치며 가서 신을 맞이해 동리로 내려와 제사하는 풍속이 있다.”고 기록하고 있다.
두 기록으로 미루어보면 강릉단오제와 군위의 김유신장군제는 같은 계열의 축제였음을 알 수 있다. 이것은 ≪삼국유사≫에 기록된 대로 왕이나 대장군을 치제(致祭)하던 유풍이 단오축제를 형성했던 것으로 보인다.
그 밖에 충청북도 진천군길상산(吉祥山)에도 김유신사당이 있었는데 신라·고려를 거쳐 조선시대에 이르기까지 봄·가을로 치제하였다고 한다. 이 제사는 김유신의 태(胎)를 길상산에 묻은 데서 연유한 것이라고 한다.