의종 때 의주 등 동서양계(東西兩界)의 지방관을 역임하였다. 1171년(명종 1) 우간의대부(右諫議大夫)로 동지공거(同知貢擧)가 되고, 이어 좌간의대부(左諫議大夫)가 되었다.
이해 9월 우간의 김보당(金甫當), 우정언 최당(崔讜), 그리고 의종 때 재상 최윤의(崔允儀) 등이 환관 정함(鄭諴)의 고신에 부당하게 서명한 일과 서해안찰사(西海按察使) 박순하(朴純嘏)가 노인성(老人星)이 보인다고 아뢴 일, 그리고 지수주사(知水州事) 오녹지(吳錄之)가 금거북의 상서(祥瑞)를 고해 아첨한 일 등을 상소하고 그 자손을 모두 금고 처분하기를 청하였다.
또한, 승선(承宣) 이준의(李俊儀)·문극겸(文克謙)이 겸하고 있는 대성(臺省)의 관직을 해임할 것을 청하기도 하였다. 그러나 이 일로 인해 도리어 판대부사(判大府事)로 좌천되었다.
동각(東閣) 시절 김신윤은 술에 취해 망령된 말을 했다가 당시 권력을 쥔 측근들에게 거슬려, 걸어서 개경을 빠져나와 감악사로 들어갔다. 그리고 자신을 늙은 병사로 고향에 돌아가는 길이라서 묵고 가기를 청한다고 하였다. 그곳에서 한 마디로 하지 않던 그가 부젓가락으로 글씨를 써니, 주변 사람들이 노인이 글을 좀 안다고 하였다. 다음날 김신윤의 아들이 절에서 그를 찾았으나, 사람들이 모른다고 하였다가 늙은 병사가 김신윤임을 알고 놀랐다는 일화가 전해진다.