본관은 영천(永川). 초명은 윤흠(尹欽), 자는 경부(敬夫), 호는 죽재(竹齋). 할아버지는 윤순(尹淳)이고, 아버지는 윤헌(尹憲)이다.
1447년(세종 29) 16세 때 사마시에 합격하였다. 1450년(문종 즉위년) 식년문과에 정과로 급제, 약 40년 동안 낮은 벼슬을 지냈다. 1489년(성종 20) 헌납(獻納)을 거쳐 1490년 이조정랑에 전직하였다. 이때, 입시하던 중 왕이 묻기를, “내 집에 쥐가 있으면 어떻게 하겠는가?” 하자, 다른 대신들은 대답하지 못하였는데, 그가 고양이를 키우면 쥐가 다니지 못한다고 하여, 당장 통정으로 승계, 호조참의에 제수되고 곧이어 이조참의가 되었다. 이 때 정여창(鄭汝昌)·김굉필(金宏弼) 등의 인재를 천거하여 참봉에 임명하게 하였다.