본관은 광산(光山). 자는 몽서(夢瑞), 호는 탄수(灘叟). 김순성(金順誠)의 증손으로, 할아버지는 김석(金磶)이고, 아버지는 성균전적 김세우(金世愚)이며, 어머니는 신제담(辛悌聃)의 딸이다.
1543년(중종 38)에 생원이 되고, 1546년(명종 1)에 식년 문과에 병과로 급제하였다. 정언·지평·이조정랑 등을 거쳐 전한에 이르렀다. 어렸을 때부터 문장에 재주가 있어서 13살 때에는 아버지가 왕의 노여움을 사서 옥에 갇히자 상소를 올려 특사케 한 일도 있다.
1557년에 선위사로 동래에 있을 때, 사간 김여부(金汝孚)의 사주를 받은 윤원형(尹元衡) 등의 무고로 체포되어 벽동(碧潼)에 귀양갔다가 경원(慶源)으로 다시 이배되었다. 1564년 8년 만에 특사로 풀려나왔다. 1554년에는 경상도 암행어사로 임명되기도 하였다.