본관은 광산(光山). 자는 몽서(夢瑞), 호는 탄수(灘叟). 김순성(金順誠)의 증손으로, 할아버지는 김석(金磶)이고, 아버지는 성균전적 김세우(金世愚)이며, 어머니는 신제담(辛悌聃)의 딸이다.
1543년(중종 38)에 생원이 주1, 1546년(명종 1)에 식년 문과에 병과로 주2 정언 · 지평 · 이조정랑 등을 거쳐 전한에 이르렀다. 어렸을 때부터 문장에 재주가 있어서 13살 때에는 아버지가 왕의 노여움을 사서 옥에 갇히자 상소를 올려 특사케 한 일도 있다.
1557년에 선위사로 동래에 있을 때, 사간 김여부(金汝孚)의 사주를 받은 윤원형(尹元衡) 등의 무고로 체포되어 벽동(碧潼)에 귀양갔다가 경원(慶源)으로 다시 주3 1564년 8년 만에 특사로 풀려나왔다. 1554년에는 경상도 암행어사로 임명되기도 하였다.