본관은 옥과(玉菓: 전라남도 곡성군 옥과면). 증조는 전중내급사(殿中內給事)를 지낸 김행창(金行昌)이고, 할아버지는 감찰어사(監察御史)를 지낸 김진(金瑨)이며, 아버지는 시합문지후(試閤門祗侯) 김순차(金舜次)이다. 김복윤(金復尹)의 가문은 증조대부터 중앙에 진출한 신흥가문으로 보인다. 부인은 상서우복야 상장군(尙書右僕射 上將軍) 정정숙(鄭旌叔)의 딸 정씨(鄭氏)이다. 아들로 김대절(金大節)과 김정필(金正弼)이 있다.
1118년(예종 13) 현과(賢科)에 제1등으로 급제하였는데, 현과는 고려시대 과거의 본고시인 예부시(禮部試)의 다른 이름이다. 『고려사(高麗史)』선거지(選擧志)와 세가(世家)에는, 예종 13년 5월에 김복윤(金福允) 등 23명에게 급제를 주었다는 기록이 등장한다. 여기서의 김복윤(金福允)은 묘지명(墓誌銘)에 적혀 있는 김복윤(金復尹)과 동일한 인물임이 분명하다.
김복윤은 급제 후 황주목서기(黃州牧書記)에 임명되었다. 이후 차지후(借祗侯)로서 동경유수판관(東京留守判官)이 되어 학사(學事)를 담당하였으며, 상식봉어동정(尙食奉御同正), 행대영령(行大盈令) 등의 관직을 거쳤다. 1146년(의종 즉위년) 7월에 사망하였는데, 3년 뒤인 1149년(의종 3)에 개성 동북쪽 마천(馬川) 남쪽 기슭에 장례지냈다.