본관은 광산(光山)이며, 아호는 죽헌(竹軒)이다. 1917년에 서울 체부동 191에서 김영제의 셋째 아들로 태어났다. 둘째 아들 김용만[1947~2003]이 국악사양성소와 서울대학교 국악과에서 수학하였고, 작곡가 겸 지휘자로 활동하였다.
1931~1936년 이왕직아악부원양성소(李王職雅樂部員養成所)에서 대금 전공으로 수학하였다. 1936년부터는 이왕직아악부 아악수(雅樂手)로 근무하였다. 1939년 이왕직의 신곡 공모에 「황화만년지곡(皇化萬年之曲)」으로 당선되었고, 1941년 사중병주곡(四重並奏曲) 「세우영(細雨影)」을 창작하였다. 이후 중주곡, 합주곡, 독주곡 등 여러 형태의 신작 국악곡을 다수 작곡하였다.
1955년부터는 국악의 정간악보화 및 교육용 악보와 이론서 편찬, 악기 복원 및 개량, 무용극 음악 창작, 영화음악 및 방송극 음악 창작 등 다양한 분야에서 활동하였다.
1953년 국립국악원 장악과장, 1955년 국립국악원 부설 국악사양성소 교무주임 겸 악과교재 편찬담당, 1962년 국립국악원 악사장 겸 국악사양성소 부소장, 1972년 국립국악원장 등을 지냈다. 1977년부터는 국립국악고등학교 교장으로 재직하였고, 1983년 정년 퇴임하였다. 이후 1984년부터 국립국악원 연주단 사범으로 재직하다가 1986년 사망하였다.
1964년 중요무형문화재[현, 국가무형유산] 종묘제례악의 예능보유자, 1971년 중요무형문화재 처용무의 예능보유자로 각각 지정되었다.
대표작으로는 1952년에 작곡한 「개천부(開天賦)」와 「송광복(頌光復)」을 들 수 있다. 이 곡들을 포함한 김기수의 초기 작품 대부분은 당시의 시대 상황을 배경으로 하고 있다. 이왕직 신곡 공모 당선작인 「황화만년지곡」의 경우, 일본 왕실 2,600주년을 기념하기 위해 만든 곡이다. 표면적으로는 공모에 응하여 제출한 것이지만, 실제로는 작곡을 강요받아 만들었다. 「개천부」는 개천절을, 「송광복」은 광복절을 기념하기 위해 만든 곡이며, 1953년의 「충혼제(忠魂祭)」 · 「다시 온 서울[會瑞陽]」, 1954년의 「파붕선(破崩線)」은 6·25전쟁이 창작의 배경이다. 1961년의 「현충제례악(顯忠祭禮樂)」은 5·16 이후 진행된 '이순신 장군 업적 드러내기'가 창작의 배경이다. 그 밖의 작품은 특별한 사회적 배경을 갖고 있지 않다. 「송광복」 · 「파붕선」 · 「신양즉흥곡」 등은 국악사양성소의 『신국악교재』로 편찬되어 교육에 사용되기도 하였다.
김기수는 국립국악원 부설 국악사양성소 학생들을 위한 교재도 다수 편찬 · 저술하였다. 그중 자신의 아호인 죽헌을 한글로 풀이한 '대마루'를 제목에 넣은 『대마루108』 · 『대마루66』은 국악사양성소의 학생들에게 국악식 계명창을 익히게 하기 위한 교재로 사용되었다. 서양의 시창(視唱)에 사용되는 솔미제이션(Solmization)과 당피리의 구음을 접목시켜 만들었다. 『대마루108』은 기초 과정으로, 1음 1박, 2음 1박, 3음 1박 등의 순서와 2도음정, 단3도음정, 4도음정 등의 난이도순으로 편찬되었다. 『대마루66』은 다양한 시김새를 학습할 수 있도록 편찬되었다.
『가야금정악』 · 『현금정악』 · 『대금정악』 · 『피리정악』 · 『해금정악』 등은 학생들의 전공 악기 교재로 사용하기 위해 만든 등사본에서 출발하였다. 1955년 국악사양성소가 개소하면서 학생들을 위한 교재가 필요해지자, 악과교재 편찬을 담당하여 국악 교재 시리즈를 편찬하였다. 이왕직 아악부에서 사용한 정간보는 악곡의 근간에 해당하는 음만을 기록하였으나, 국악 교재 시리즈에서는 근간의 음 사이에 사용되는 잔가락을 장식음 부호로 만들어 사용하기 시작하였다. 김기수에 의해 정리 · 사용되기 시작한 정간 악보 기보법은 현재까지도 큰 변화 없이 사용되고 있다. 그 외 『고가신조』는 옛 시조시에 새로운 선율을 붙여서 만든 것으로, 오선악보가 함께 수록되어 있다.
『국악입문』은 1959년에 첫 등간(謄刊)한 『악전첫거름』을 보완하여 출판한 저술이다. 1955년 이래 국악사양성소 학생들에게 국악의 기초 이론을 가르친 내용을 모은 것으로, 1960년대 중후반까지도 이 내용을 직접 학생들에게 가르쳤다. 출근한 후 일과의 대부분을 교재를 등사하며 보냈기에 장악과장이 아닌 등사과장이라는 별호(別號)도 얻었다. 당시 등간은 저렴하고 보편적인 출판 방식이었다.
『남창가곡백선(男唱歌曲百選)』과 『여창가곡(女唱歌曲)여든여덟닢』은 매우 다양한 장식음이 포함된 가곡 악보로, 김기수의 뛰어난 음악성을 보여주고 있다. 여기에는 하규일에게서 전수받은 가곡 외에 자신이 새롭게 창작한 남창 「우조 이수대엽」[가마귀] 등이 일부 포함되어 주1 그 밖에 국립국악원에서 오선악보로 발간한 『한국음악』과 정간악보로 발간한 『국악전집』의 대부분도 김기수의 저작이다.
1954년에 서울시문화상 음악부문을 수상하였고, 1962년에 대한민국 면려포장을 수여받았다. 1985년에는 은관문화훈장을 서훈받았다. 국립국악원 동상공원에는 김기수의 흉상이 세워져 있다. 「황화만년지곡」 창작으로 인해 『친일인명사전』에도 수록되었다.