본관은 해평(海平). 자는 선원(善源), 호는 지지당(止止堂). 한성부(漢城府)의 계방(桂坊)에서 출생하였다. 아버지는 김준례(金遵禮)이다. 김종직(金宗直)의 문하에서 수학하였는데 자질이 총명하여 스승의 사랑을 받았다.
1476년 별시문과에 병과로 급제하여 사간원의 헌납과 정언을 지내면서 소임을 다하였다. 1478년 도승지 임사홍(任士洪)과 함께 현석규(玄錫圭)를 탄핵한 죄로 고령에 유배되었다가 1482년 풀려나서 돌아왔다. 뒤에 이조정랑·수찬 등을 지낸 뒤 사직하였다.
향리에 정사(精舍)를 지어 후진을 가르치니, 그 학덕을 흠모하여 배우기를 청하는 자가 많았다. 평생동안 스승의 가르침을 잘 지켜 실천궁행할 것을 강조하고, 관리가 되어서는 자기의 소임을 다할 수 있는 재목이 되라고 가르쳤다. 저서로는 『지지당시집(止止堂詩集)』이 있다.