본관은 광산. 호는 녹야(鹿野). 전라북도(현, 전북특별자치도) 정읍 출생. 1933년 정읍농업학교를 졸업하고 정자선(鄭慈善)에게 양금정악(洋琴正樂)을 배웠다. 1934년김광석(金光錫)에게 가야금정악을, 1935년김용근(金容根)에게 거문고정악을 배웠다.
1947년에는 정남희(鄭南希)에게 가야금산조를, 1948년에 한갑득(韓甲得)에게 거문고산조를 전수받았다. 1945년부터 1950년까지 국악원 국극사의 단원이었고, 1950년부터 1961년까지 국립국악원에 출강하면서 많은 제자를 배출시켰다. 1961년부터 1967년까지 숙명여자고등학교 · 국악예술학교 등에 재직하였다.
재직 당시 일본 · 멕시코 · 유럽 · 미국 등지에서 많은 해외공연을 가졌다. 1968년 한국국악협회 이사를 역임하였다.
음악적 재질이 매우 뛰어나 스승의 산조에 새로운 가락을 짜 넣어서 「김윤덕류 가야금산조」와 「김윤덕류 거문고산조」를 만들었으며 1968년 중요무형문화재(현, 국가무형유산) 가야금산조 및 병창의 예능보유자로 지정되었다.
1960년대에 킹스타사에서 거문고산조를 음반에 취입하였고, 1977년 중요무형문화재 기록음반에 가야금산조를 취입하였다. 저서로 『가야금구음정악보』 · 『현금산조보』 · 『현금정악보』 · 『가야금풍류국문신보』 · 『가야금정악보』 등의 악보가 있다.