본관은 파평(坡平). 자는 이중(彛仲), 호는 무호암(無號庵). 공조판서 윤이제(尹以濟)의 증손으로 할아버지는 윤기경(尹基慶)이다. 아버지는 윤사용(尹師容)이며, 어머니는 이제항(李齊沆)의 딸이다.
어려서부터 필법이 곧고 발라서, 11세 때는 강세황(姜世晃)이 윤필병의 글씨를 보고는 왕우군(王右軍)의 골자(骨子)라고 칭찬할 정도였다. 자라서 경사(經史)를 익히고 백가서(百家書)를 공부하니 학문이 더욱 넓고 깊었으며, 특히 시문에 능해 매양 시를 지으면 원근에서 전송(傳誦)하였다.
1765년(영조 41) 사마시에 합격하고, 1767년 정시 문과에 병과로 급제해 정언(正言)·종부시주부(宗簿寺主簿)·성균관직강·예조정랑·지평을 역임하고 장련현감이 되었다. 여기서 백성을 지성으로 사랑하고, 이속(吏屬)들은 엄하게 다루는 한편 사민(士民)들에게 학습을 권장하니, 문풍(文風)이 떨치고 치적이 현저하였다.
그 뒤 1778년(정조 2) 장령으로서 상소해 붕당의 혁파 등 4조를 진술하였다. 1786년에는 다시 친림춘당대 중시(重試)에 병과로 급제해 당상관(堂上官)이 되어, 첨지중추부사·병조참지·안악군수·좌승지를 거쳐 동래부사가 되었다.
4년간 재직하면서 병기와 성첩(城堞)을 수선하고, 군사의 조련에 힘쓰면서 읍민 자제들에게 효제충신(孝悌忠信)을 가르치니, 뒤에 청덕비(淸德碑)와 생사(生祠)가 세워졌다. 다시 대사간·형조참판을 거쳐 강원도관찰사가 되었으나, 대신(臺臣)의 탄핵을 받아 파직되었다.
1800년에 정조가 승하하고 조정이 일변해, 이듬해 당국자들이 신유사옥을 일으켜 반대파를 일망타진하려 하므로, 호군의 직책으로 100여 명을 거느리고 척사소를 두 번이나 올렸다.
또한 서학을 배척해 1802년 이가환(李家煥)·이승훈(李承薰)의 가족을 노비로 삼아야 한다고 주장하였다. 그러나 지나친 행동으로 파직, 문외출송되어 서울을 떠나 포천으로 돌아가 여생을 보냈다.