본관은 의성(義城). 자는 기복(基福). 김익령(金益齡)의 증손으로, 할아버지는 예빈시참봉(禮賓寺參奉) 김련(金璉)이고, 아버지는 김안국(金安國)이며, 어머니는 송림정(宋林正) 이효창(李孝昌)의 딸이다.
1549년(명종 4) 식년 문과에 병과로 급제하여 홍문관에 들어갔으며 관직이 전한(典翰)에 이르렀다. 인물이 경박하고 출세에 급급하여 가정의 교훈을 따르지 않아 일찍이 숙부 김정국(金正國)이 우리 형제의 뒤를 이을 만한 자식이 없음을 한탄하였다고 하는데, 이 때에 와서 외척 윤원형(尹元衡)에게 붙으니 김정국의 말이 그대로 들어맞았다.
평소 김홍도(金弘度)와 사이가 좋지 못하여 서로 당을 만들어 다투었다. 1557년(명종 12) 윤원형이 첩을 처로 삼은 사실을 김홍도가 못마땅하게 생각하더라고 윤원형에게 고자질하여 조정을 어지럽게 만들었다.
이어 그의 당인 대사간 김백균(金百鈞)·사간 조덕원(趙德源)과 함께 탄핵하여 김홍도와 김규(金虯)를 각각 갑산과 경원으로 귀양보내고 김계휘(金繼輝)를 삭출시켰다. 뒤에 영의정 심연원(沈連源)으로부터 사사로운 원한으로 조정을 어지럽힌다고 탄핵을 받았다.
또 이어 양사(兩司: 사헌부와 사간원)의 탄핵을 받아 조정에서 축출되었다. 1574년(선조 7) 우의정 노수신(盧守愼)이 서용을 청하여 한때 선조의 허락을 받았으나 삼사(三司)에서 극력 반대하여 끝내 서용되지 못하였다.