본관은 김해(金海). 본명은 김윤식(金允植). 영랑은 아호인데 『시문학(詩文學)』에 작품을 발표하면서부터 사용하기 시작하였다. 전라남도 강진 출신. 아버지 김종호(金鍾湖)와 어머니 김경무(金敬武)의 5남매 중 장남이다.
1915년 강진보통학교를 졸업한 뒤 혼인하였으나 1년반 만에 부인과 사별하였다.
그뒤 조선중앙기독교청년회관에서 영어를 공부하고 난 다음 1917년 휘문의숙(徽文義塾)에 입학, 이 때부터 문학에 대한 관심을 가지기 시작하였다. 이때 휘문의숙에는 홍사용(洪思容)·안석주(安碩柱)·박종화(朴鍾和) 등의 선배와 정지용(鄭芝溶)·이태준(李泰俊) 등의 후배, 그리고 동급반에 화백 이승만(李承萬)이 있어서 문학적 안목을 키우는 데 직접·간접으로 도움을 받았다.
휘문의숙 3학년 때인 1919년 3·1운동이 일어나자 고향 강진에서 거사하려다 일본경찰에 체포되어 6개월간 대구형무소에서 옥고를 치렀다. 1920년에 일본으로 건너가 아오야마학원[靑山學院] 중학부를 거쳐 같은 학원 영문학과에 진학하였다. 이무렵 독립투사 박렬(朴烈), 시인 박용철(朴龍喆)과도 친교를 맺었다.
그러나 1923년 관동대지진으로 인해 학업을 중단하고 귀국하였다. 이후 향리에 머물면서 1925년에는 개성출신 김귀련(金貴蓮)과 재혼하였다. 광복 후 은거생활에서 벗어나 사회에 적극 참여하여 강진에서 우익운동을 주도하였고, 대한독립촉성회에 관여하여 강진대한청년회 단장을 지냈으며, 1948년 제헌국회의원선거에 출마하여 낙선하기도 하였다.
1949년에는 공보처 출판국장을 지내기도 하였다. 평소 음악에 대한 조예가 깊어 국악이나 서양명곡을 즐겨 들었고, 축구·테니스 등 운동에도 능하여 비교적 여유있는 삶을 영위하다가, 9·28수복 당시 유탄에 맞아 사망하였다.
시작활동은 박용철·정지용·이하윤(異河潤) 등과 시문학동인을 결성하여 1930년 3월에 창간된 『시문학』에 시 「동백잎에 빛나는 마음」·「언덕에 바로 누워」 등 6편과 「사행소곡칠수(四行小曲七首)」를 발표하면서 본격적으로 전개되었다.
이 후 『문학』·『여성』·『문장』·『조광(朝光)』·『인문평론(人文評論)』·『백민(白民)』·『조선일보』 등에 80여편의 시와 역시(譯詩) 및 수필·평문(評文) 등을 발표하였다. 그의 시세계는 전기와 후기로 크게 구분된다. 초기시는 1935년 박용철에 의하여 발간된 『영랑시집』 초판의 수록시편들이 해당되는데, 여기서는 자연에 대한 깊은 애정이나 인생태도에 있어서의 역정(逆情)·회의 같은 것은 찾아볼 수 없다.
‘슬픔’이나 ‘눈물’의 용어가 수없이 반복되면서 그 비애의식은 영탄이나 감상에 기울지 않고, ‘마음’의 내부로 향해져 정감의 극치를 이루고 있다. 요컨대, 그의 초기시는 같은 시문학동인인 정지용 시의 감각적 기교와 더불어 그 시대 한국 순수시의 극치를 보여주고 있다.
그러나 1940년을 전후하여 민족항일기 말기에 발표된 「거문고」·「독(毒)을 차고」·「망각(忘却)」·「묘비명(墓碑銘)」 등 일련의 후기시에서는 그 형태적인 변모와 함께 인생에 대한 깊은 회의와 ‘죽음’의 의식이 나타나 있다.
광복 이후에 발표된 「바다로 가자」·「천리를 올라온다」 등에서는 적극적인 사회참여의 의욕을 보여주고 있는데, 민족항일기에서의 제한된 공간의식과 강박관념에서 나온 자학적 충동인 회의와 죽음의식을 떨쳐버리고, 새나라 건설의 대열에 참여하려는 의욕으로 충만된 것이 광복 후의 시편들에 나타난 주제의식이다.
주요저서로는 『영랑시집』 외에, 1949년 자선(自選)으로 중앙문화사에서 간행된 『영랑시선』이 있고, 1981년 문학세계사에서 그의 시와 산문을 모은 『모란이 피기까지는』이 있다. 묘지는 서울 망우리에 있고, 시비는 광주광역시 광주공원에 박용철의 시비와 함께 있으며, 고향 강진에도 세워졌다.