본관은 능성(綾城). 할아버지는 안동대도호부사 구성로(具成老)이고, 아버지는 목사 구양(具揚)이며, 어머니는 관찰사 윤사영(尹思永)의 딸이다. 형은 영의정 구치관(具致寬)이며, 능성부원군(綾城府院君) 구수영(具壽永)의 아버지이다.
건주위(建州衛)의 여진을 물리쳐 무공을 세웠다. 궁마(弓馬)의 기술을 닦고 무과에 급제하였으며, 학문에도 조예가 깊어 문무를 함께 갖추었으므로 세조의 총애를 받았다.
1455년(세조 1) 세조가 즉위하자 행부사정(行副司正)으로서 원종공신(原從功臣) 3등에 책록되었다. 선전관을 거쳐 1467년(세조 13) 이시애(李施愛)가 반란을 일으키자 구성군(龜城君) 이준(李浚)의 종사관이 되어 난을 평정하고, 이시애·이시합(李施合) 형제의 목을 가지고 와 서울에서 효시하였다.
1472년(성종 3) 해주목사, 1475년 동지돈녕부사(同知敦寧府事), 1482년 강릉대도호부사(江陵大都護府使), 1488년 첨지중추부사(僉知中樞府事)를 역임하였다. 강릉대도호부사에서 체임되어 귀경할 때 관물(官物)을 많이 싣고 와 직첩을 빼앗긴 일이 있었으나 곧 환급받았다.
1492년 아들 구수영이 판돈녕부사(判敦寧府事)에 오르자 자헌대부(資憲大夫)로 승품되었다. 1506년에는 지중추부사로 지훈련원사(知訓鍊院事)를 겸하였다. 시호는 호양(胡襄)이다.