본관은 연안(延安). 초명은 윤(允), 자는 중후(仲厚), 또는 치온(致溫), 호는 퇴촌(退村), 청포(淸浦), 죽창(竹窓), 죽서(竹西). 조선 중기의 문인화가 김시(金禔)의 손자이다. 아버지 김봉선(金奉先)은 원래 김안로(金安老)의 삼남인 김휘(金徽)의 차남으로 태어났다. 김휘는 작은 아버지인 김시의 후사가 없어 양자로 출계했기 때문에 김식은 그의 양손자가 되었다.
1606년에 진사가 되었고, 1635년에 원종어진 제작에 참여했으며 숭은전(崇恩殿) 묘례(廟禮) 때 일자(一資)가 가해졌다. 벼슬은 찰방을 지냈으며 후년에는 선산(善山)에서 살았다.
그는 산수를 잘 그렸으나, 그를 유명하게 해준 것은 독특한 소그림[牛圖]이다. 조선 중기의 가장 유명한 소그림 전문화가였기 때문에 웬만한 소그림은 모두 그의 작품으로 불렸다.
그의 소그림들은 할아버지 김시의 절파화풍(浙派畵風)과 영모화풍(翎毛畵風)을 토대로 그린 간결한 산수를 배경으로 제작되었다. 음영(陰影)으로 표현된 소의 퉁퉁한 몸이나 X자형의 주둥이, 달무리진 듯 선량한 눈매, 그리고 무엇보다도 평화롭고 따뜻한 그림의 분위기 등을 특징으로 하고 있다.
이러한 그의 소그림들은 중국이나 일본의 소그림들과는 현저하게 다른 특색들을 지니고 있어 전형적인 한국적 소그림이라고 말 할 수 있다. 대표작으로 「고목우도(枯木牛圖)」와 「영모도」 등이 있다.