본관은 파평(坡平). 자는 군서(君瑞), 호는 회당(晦堂). 경기도 양평 출생. 아버지는 윤교명(尹敎明)이며, 어머니는 고령신씨(高靈申氏)로 신각모(申慤模)의 딸이다. 박세화(朴世和)의 문인이다.
1889년(고종 26) 윤응선의 학행이 조정에까지 알려져 의금부도사(義禁府都事)에 임명되었으나 나아가지 않았다. 1905년 청풍(淸風)에서 유림들이 향약(鄕約)을 조직하였을 때 도헌(都憲)으로 추대되어 향약의 절목을 정리하고 유교의 풍속을 재건하기 위한 교화활동에도 적극 참여하였다.
을사조약이 체결되자 월악산(月嶽山) 용하동(用夏洞)에서 의거할 것을 의논하였으나 박세화의 갑작스런 발병으로 중단되었는데, 이 일로 스승과 함께 문경주재소에 검거, 한성감옥에 이감되어 6개월 남짓 옥살이를 치르기도 하였다.
윤응선의 학문세계도 박세화로부터 크게 영향을 받아 도학의 의리론과 성리학을 전수, 그것을 밝히는 데 힘썼다. 스승이 1910년 단식, 자결할 때의 절필(絶筆)인 ‘禮義朝鮮(예의조선)’ 넉 자의 뜻을 밝혀 ‘예의’는 중화문화의 진리요, ‘조선’은 역대의 임금이 지켜온 나라라고 언급하였다.
이기론(理氣論)에 있어서는 유형·무형의 문제는 본분(本分)에 속하고 유위(有爲)·무위(無爲)의 문제는 실직(實職)에 속하는 것으로 분석하여 분(分)과 직(職)의 형식으로 나누었다.
무형무위하면서 유형유위한 기(氣)의 주재가 되는 것이 이(理)의 본분실직이요, 유형유위하면서 무형무위한 이의 도구가 되는 것이 기의 본분실직이라고 이기관계를 규정하였다. 충청북도 음성의 충룡사(忠龍祠)와 제원의 병산사(屛山祠)에 봉향되었으며, 저서로는 『회당집(晦堂集)』 16권 8책이 있다.