본관은 김해(金海). 자는 일지(一之). 할아버지는 김효분(金孝芬)이고, 아버지는 증 호조판서 김진손(金震孫)이며, 어머니는 이종인(李種仁)의 딸이다. 이조참판 김영견(金永堅)의 동생이다.
1475년(성종 6) 봉사(奉事)로서 친시 문과(親試文科)에 병과로 급제하였다. 1478년 목천현감에 제수되었으며, 성절사검찰관으로 북경에 다녀왔다. 이듬해 정언(正言)을 거쳐 1481년 지평(持平)·직강(直講)을 역임하고, 1484년 예조정랑이 되었다.
1492년 집의(執義)가 되고 1494년 봉상시정(奉常寺正)으로 백악·삼각산행향사(白岳三角山行香使)를 맡았다. 1497년(연산군 3) 대사간, 1498년 우부승지·대사헌을 거쳐 정조사로 북경에 다녀왔다.
1499년 지돈녕부사로 하정사에 발탁되어 다시 북경에 다녀왔으며, 1500년에도 도총관을 거쳐 정조사로 북경에 다녀왔다. 1502년 지돈녕부사를 거쳐 이듬해 전라도관찰사를 겸하였다.
1505년 사노비를 내수사에 소속시킨 것이 사리에 맞지 않다고 논계하여 비판을 받았으나 정조사로 다시 북경에 다녀왔다.
정헌대부병조판서에 추증되었고 시호는 안경(安敬)이다.