김서현(金舒玄)은 김유신(金庾信)의 아버지이다. 김유신 사후 문무왕의 명으로 건립된 「유신비」에는 ‘김소연(金逍衍)’으로, 『삼국유사』 「가락국기(駕洛國記)」에는 '서운(庶云) 잡간(匝干)'으로 기록되어 있다. 532년(법흥왕 19) 신라로 투항한 금관국(金官國)의 마지막 왕인 구해(仇亥)의 후손이다. 『삼국사기』 「김유신」 열전에 따르면, 구해의 손자이며 무력(武力)의 아들에 해당한다.
그런데 「가락국기」에 인용된 문무왕의 용삭(龍朔) 원년 3월 조칙에는 구해에 해당하는 구충왕(仇衝王)의 아들 세종(世宗)의 아들 솔우공(率友公)의 아들이라고 하여, 구해의 증손자가 되어 대수(代數)가 맞지 않으며, 계통도 무력과 세종으로 다르게 나타난다. 「김유신」 열전의 계보를 신뢰하는 것이 일반적이다.
김서현은 길에서 입종갈문왕(立宗葛文王)의 아들 숙흘종(肅訖宗)의 딸 만명(萬明)을 보고 중매 없이 야합(野合)하였는데, 만노군(萬弩郡) 태수(太守)가 되어 함께 떠나려 할 때 숙흘종이 사실을 알고 만명을 가두어 두었으나 빠져나와 함께 만노군으로 갔다고 하는 이야기가 『삼국사기』 「김유신」 열전에 남아 있다. 숙흘종은 지증왕의 손자이자 진흥왕의 동생으로서, 그 딸과의 혼인으로 김서현은 신라 왕실과 가까운 친인척 관계의 범위에 들어가게 된다. 둘 사이에서 김유신과 태종무열왕릉비 문명왕후 등이 태어난다.
김서현은 지금의 충청북도 진천으로 여겨지는 만노군 태수를 지냈고, 629년(진평왕 51) 8월 아들 김유신을 부장군(副將軍)으로 삼아 대장군 김용춘(金龍春)과 함께 고구려 낭비성(娘臂城)을 공격하여 함락시켰다. 『삼국사기』 「김유신」 열전에서는 벼슬이 소판(蘇判) 대량주도독(大梁州都督) 안무대량주제군사(安撫大梁州諸軍事)에 이르렀다고 하였는데, 관직 명칭이 후대적이다.
아울러 서현이 양주총관(良州摠管)이 되어 여러 차례 백제와 싸워서 그 예봉을 꺾고 변경을 침입하지 못하게 하였다는 문무왕의 언급이 기록되어 있지만, 서현 생존 시에는 삽량주(歃良州)나 양주(良州)가 아직 설치되지 않았던 것으로 보인다. 대량주(大梁州)의 군주(軍主)였던 것이 이렇게 기록되었다고 여겨진다.
한편, 「김유신」 열전에서 관등이 소판에까지 이르렀다고 하고, 「신라본기」 문무왕 즉위조에도 소판으로 기록된 것과 달리, 「신라본기」 태종무열왕 즉위조와 『삼국유사』 김유신조에는 각찬(角飡) 혹은 각간(角干)의 관등으로 기록되어 차이를 보인다.