본관은 능성(綾城). 자는 미숙(眉叔). 강원도부원수 구성로(具成老)의 증손으로, 할아버지는 목사 구양(具揚)이고, 아버지는 지중추부사 구치홍(具致洪)이며, 어머니는 진천송씨(鎭川宋氏)로 좌랑 송계후(宋啓後)의 딸이다. 큰아버지는 영의정 구치관(具致寬)이다.
12세에 영응대군(永膺大君: 세종의 여덟째 아들)의 사위로 뽑혀 세조로부터 특별히 선략장군부호군(宣略將軍副護軍)을 제수받았다. 예종이 즉위한 뒤에는 은총을 입어 절충장군(折衝將軍)에 오르고, 성종이 즉위하자 원종공신(原從功臣)이 되었으며, 동지중추부사를 거쳐 곧 지중추부사에 올랐다.
1493년(성종 24) 오위도총부도총관(五衛都摠府都摠管)이 되어 군대 통솔의 책임을 맡았고, 이어 상의원제조(尙衣院提調)를 지냈다. 연산군이 즉위하자 다시 도총관을 역임하고, 1501년(연산군 7) 지돈녕부사(知敦寧府事)에 올랐다.
이 때 대간들이 부적당하다고 탄핵했으나 오히려 판돈녕부사로 승진되고, 이듬 해에는 판의금부사가 되었다.
1504년 소혜왕후(昭惠王后)가 죽자 산릉도감제조(山陵都監提調)로서 상례를 잘 처리하였다. 이듬해에는 장악원제조(掌樂院提調)가 되어, 흥청(興淸) 200인, 운평(運平) 1,000인, 광희(光熙) 1,000인을 모아 악률을 교육하면서 연산군의 유락(遊樂)을 도왔으며, 그 공로로 1506년에는 한성부판윤에 올랐다.
이어 경기순무사(京畿巡撫使)로 나갔다가 중앙으로 돌아와 박원종(朴元宗) 등이 중종반정을 도모하자, 이에 가담해 정국공신(靖國功臣) 2등에 책록되고 능천부원군(綾川府院君)에 봉해졌다. 그 뒤 영경연사(領經筵事)를 겸했으나 사직하여 체직되었으며, 이후 연산군의 충복이었다는 이유로 탄핵을 받았다. 효성이 지극하고 성품이 자상했으며 음률과 악기에 재주가 있었다.