본관은 평해(平海). 구천우(丘天雨)의 증손으로, 할아버지는 구춘보(丘春甫)이고, 아버지는 구차숭(丘次崇)이며, 어머니는 김빈(金贇)의 딸이다.
1464년(세조 10) 진사로서 식년문과에 정과로 급제하고, 1479년(성종 10) 장령이 되었다. 1495년(연산군 1) 승지로서 중국사신 왕헌신(王獻臣)이 돌아갈 때 모화관에 나가 왕이 병으로 인하여 전별하지 못한다는 뜻을 전한 뒤 우승지에 임명되었다.
1496년 좌부승지·한성부우윤을 거쳐 대사헌이 되어, 임금이 경연에 참석해서 직접 어진 선비와 대부들을 면접하여 성학(聖學)을 넓히고, 관작(官爵)이 범람해짐을 경계할 것을 주장하였다.
또, 환관 김효강(金孝江) 등이 정치에 참여하자 이들에게 죄줄 것을 청하였으며, 왕이 불교를 숭상하기 위하여 소상재(小祥齋)·대상재(大祥齋) 등을 마련하자 이를 반대하며 경계할 것을 주장하였다.
1497년에 동지중추부사로서 명나라에 가서 효종의 생신을 축하하고 돌아온 뒤 강원도관찰사로 나아갔으며, 1499년에 다시 한성부우윤이 되었다. 문장에 능하였다.