본관은 수원(水原). 자는 덕로(德老). 아버지는 백원진(白元振)이다.
여러 번 과거에 응시하였으나 급제하지 못하다가 1680년(숙종 6) 무과에 응시하여 급제하였다. 1684년 선전관(宣傳官)이 되어 북로(北路)의 봉수(烽燧)를 조사하여 허술한 곳을 수축하게 하였다.
이어 초계군수가 되어서는 교육정책에 힘썼으며, 1708년에는 황해도병마절도사가 되었다. 1717년 함경도병마절도사를 거쳐, 평안도병마절도사를 지냈다. 절도사로 있을 때 군기들을 잘 수선하여 갖추어두고 병사들의 훈련에 힘써 국방에 주력하였다.
경종이 즉위하고 김일경(金一鏡) 등이 정권을 잡자, 노론의 구신들을 몰아낼 때 연좌되어 파직되었다. 1722년(경종 2) 목호룡의 고변으로 관련자들이 문초받던 도중에 김성절(金盛節)이란 자가 고문에 못 이겨 백시구가 평안도병마절도사로 있을 때 기로소(耆老所)에 빌려준 은자를 모의에 사용하였다고 자백하였다.
그러나 백시구는 심문에 단호히 불복하였다. 결국 고문에 못이겨 옥사하였으나, 뒤에 1741년(영조 17) 영조가 임인옥안(壬寅獄案)을 불태우고 탕평책을 쓸 때에 백시구의 관직을 복구하고 몰수하였던 재산도 후손에게 돌려주었으며, 호조판서를 추증하였다. 유저(遺著)로는 『충장부군시고(忠莊府君詩稿)』 1책이 있다. 시호는 충장(忠莊)이다.