본관은 예천(醴泉). 초명은 윤철(尹哲). 자는 실부(實夫), 호는 별동(別洞). 윤충(尹忠)의 증손으로, 할아버지는 증 호조참의 윤신단(尹臣端)이다. 아버지는 예천군의 향리인 윤선(尹善)이다.
향리의 아들로 태어나 과거 시험으로 양반 신분에 올랐다. 향리 역(役)에 종사하면서, 관청에서 집으로 식사하러 오가면서 솔기름을 가져다 몰래 숨겨두었다가 밤에 책읽기에 쓸 정도로 끈기있는 노력을 기울였다.
정몽주(鄭夢周)의 문인으로, 성리학에 밝은 조용(趙庸)이 1392년( 태조 1) 역성혁명을 반대해 예천에 유배되어오자, 조말생(趙末生) · 배강(裵杠) 등과 함께 수업해 문인이 되었다. 그 해 진사시에 합격한 뒤, 이듬해 생원시에도 합격하였다.
1396년( 태조 5) 24세의 나이로 식년 문과에 동진사(同進士)로 급제해 선산 · 안동 · 상주 및 한성 서부 등지의 교수관(敎授官)을 거쳐, 예조정랑 때 서장관으로 연경(燕京)에 다녀와서 성균관사예가 되었다. 가친이 연로하자 외직을 청해 황간 · 영천(榮川) · 대구 등지의 군사(郡事)를 맡은 뒤, 사성을 거쳐 대사성에 발탁되었다.
1448년(세종 30) 예문관제학으로서 원손(元孫: 단종)의 입학례를 거행할 때 특명으로 박사가 되어, 선비들이 이를 영예로 여겼다. 오랫동안 성균관의 교육에 종사해, 문하에 과거에 합격해 이름난 사람들이 많았다.
문종 초에 고령으로 고향에 돌아가니, 국왕이 사궤(食饋: 임금이 신하에게 내리는 음식물)를 내렸는데, 고령으로 은퇴하는 재상에게 궤물(饋物)을 내리는 제도가 여기에서 비롯되었다 한다. 향리에서 자제들을 가르치다가 3년여만에 83세로 일생을 마쳤다.
윤상은 조용을 통해 정몽주의 학통을 이어, 특히 세종대에 성균관 교육에 종사해 왕조 초기의 중앙 학계에 성리학의 기운을 진작, 유지시키는 데 기여하였다. 또한 김종직의 아버지 김숙자(金叔滋)에게 『주역』을 가르쳐 정몽주 계열의 도통(道統)을 진작하는데 크게 기여하였다. 경학(經學)에 밝았고 문장에도 매우 뛰어났다. 저서로는 『 별동집(別洞集)』이 있다. 시호는 문정(文貞)이다.