본관은 안동(安東). 자는 국화(國華), 호는 송은(松隱). 할아버지는 사직 김효온(金孝溫)이고, 아버지는 지례현감 김극해(金克諧)이다.
1501년(연산군 7)에 진사가 되었으나 과거에 집착하지 않았다.
고향인 의성의 북촌에 머물면서 시가를 읊조리며 청빈하게 지냈으며, 효성과 우애가 지극하여 부근의 사람들로부터 존경을 받았다. 죽은 뒤 대곡산(大谷山)에 장사지냈는데, 그 뒤 외손인 유성룡(柳成龍)이 왕의 명을 받아 제사지내고 묘를 살펴보았다. 의성의 장대서원(藏待書院)에 제향되었다. 저서로는 『송은집(松隱集)』과 『경심잠(警心箴)』이 있다.