본관은 능성(綾城). 아버지는 판돈녕부사 구성임(具聖任)이다.
1739년(영조 15) 전라좌도수군절도사, 1743년 황해도병마절도사 등을 역임하고, 1752년 삼도수군통제사가 되어 한산도·견내량(見乃梁) 지역 주민들의 궁핍상을 들어 군포의 감면을 건의하였다.
1753년 훈련도정(訓鍊都正)·금군별장(禁軍別將), 1754년 금위대장, 1755년 좌변포도대장(左邊捕盜大將) 등을 거쳐 1756년 다시 금위대장이 되어 무인(武人)들이 무술을 연마하는 데는 뜻을 두지 않고 벼슬을 구하는데만 급급하는 폐단을 지적하였다.
1759년 어영대장, 1760년 훈련대장, 1761년 병조판서, 1763년 한성판윤, 1766년 행사직(行司直), 1767년 총융사, 1768년 포도대장 등을 역임하였고, 1769년 평안도병마절도사가 되어 청천강변에 남당성(南塘城)을 축조, 그 공으로 판의금부사에 임명되었다.
그 뒤 훈련대장·병조판서·금위대장·행부사직 등을 지냈다. 아들 구현겸(具顯謙)도 무장으로 같은 시기에 평안도병마절도사와 통제사 등을 지냈다.