본관은 해주(海州). 자는 사신(士愼), 호는 수양세가(首陽世家)·황락거사(黃落居士)·할옹(鶡翁). 아버지는 중추원부사 윤길생(尹吉生)이다.
1491년(성종 22) 원수 허종(許琮) 막하의 비장(裨將)이 되어 여진족의 토벌에 종군했으며, 1495년(연산군 1) 무과에 제2등으로 급제, 선전관을 거쳐 회령판관을 역임하였다. 1506년의 중종반정에 참여해 정국공신(靖國功臣) 4등에 녹훈되고 경흥부사로 부임하였다.
1510년(중종 5) 삼포왜란 때 원수 유순정(柳順汀)의 종사관으로 왜적을 토벌했고, 그 공으로 병조참의에 승진, 해양군(海陽君)에 책봉되었다. 이후 동부승지·북병사·경상우도병사·한성부좌윤·공조참판을 거쳐, 평안병사·경상좌병사·함경남도병사 등 변경의 장수직을 차례로 역임하였다.
1536년 다시 한성부좌윤에 임명되었다가 나이가 많아지자 동지중추부사로 물러나, 명나라 사신이 보내온 천하지도(天下地圖)를 왕명에 의해 좌의정 홍언필(洪彦弼)과 함께 수정하고 보충하였다.
1538년 공조판서를 거쳐 2년 뒤 지중추부사가 되자, 중종에게 「구군팔진육화육변십이장진도(九軍八陣六花六變十二將陣圖)」를 올려 국방강화를 건의하였다.
풍채가 당당하고 활과 말을 잘 다뤘으며 전략에 뛰어났다. 평생 남쪽과 북쪽의 국경지대를 지키면서 여진과 일본의 침략에 대비해 군사를 훈련시키고 군비를 정비하는데 힘썼다. 또한 무신으로서는 드물게 시작을 즐기고 독서를 좋아해 여러 경서를 널리 섭렵하였다.
특히 오랜 시간에 걸친 지리와 여러 나라의 변화, 외국의 촌락 형태와 풍토·습속 등을 잘 알아 경험과 지식이 풍부한 장수로 이름 높았다. 시호는 양간(襄簡)이다.