본관은 안동(安東). 자는 몽정(夢禎), 호는 유연재(悠然齋). 김질(金晊)의 증손으로, 할아버지는 감사 김자행(金自行)이며, 아버지는 김숙연(金叔演)이며, 어머니는 김증(金增)의 딸이다.
1507년(중종 2) 참봉으로 증광 문과에 병과로 급제한 뒤 이듬해 검열 권벌(權橃), 봉교 이희증(李希曾)·김영(金瑛), 대교 윤인경(尹仁鏡) 등과 함께 무오사화에 대해 논계(論啓)하고 김종직(金宗直)의 억울함을 풀어주기를 청하였으나 허락받지 못하였다.
또, 왕은 천륜에 따라 덕치정치를 행하여야 하는데, 이를 위하여 측근의 신하들이 필요하고 간언에 귀를 기울여야 한다고 충언하기도 하였다. 그 뒤 1509년에 정자·박사가 되고, 이어 지평·검상이 되었다. 1514년 장령을 지냈으며, 1517년 집의·참찬관 등을 거쳐 1520년 우부승지, 이듬해 좌부승지가 되었으며, 1524년 도승지를 거쳐, 이듬해 대사헌과 경상도감사로 나갔다.
그때 그곳의 사송(詞訟)이 적체되었다 하여 중앙에서 문제가 제기되기도 하였다. 1527년 동지중추부사가 되었다. 글씨에 뛰어났는데 특히 해서(楷書)에 능하였다. 동래의 낙안서원(樂安書院)에 제향되었다. 글씨로는 「계주문(戒酒文)」·「영상김수동비(領相金壽童碑)」·「영상성희안비(領相成希顔碑)」 등이 있다.