전라북도(현, 전북특별자치도) 전주 출생. 본명은 김대준(金大駿). 1922년 신흥고등보통학교를 거쳐, 1925년 전주사범학교를 졸업하였다. 1925년 진안국민학교에 부임한 이래 전주사범학교(1945∼1952)와 전주고등학교(1952∼1968) 등에 재직하며 정년을 맞을 때까지 거의 한평생을 교육계에 종사하며 시작(詩作)에 전념하였다.
1925년 11월 『조선문단』(제13호)에 주요한(朱耀翰)의 추천으로 시 「달나라」가 발표되었다. 이어 1926년 『동아일보』 제1회 신춘문예에 시 「새날의 기원」이 당선되었으며, 거듭 『조선문단』 3월호(제14호)와 6월호(제17호)에 「흙」과 「무너진 옛 성터에서」가 각각 발표됨으로써 문단에 등단하였다. 그 뒤 「출범(出帆)의 노래」(『조선지광(朝鮮之光)』, 1928.1) · 「오월의 태양」(『조선지광』, 1928.7) · 「훈풍에 날으는 오월의 기폭」(『대조(大潮)』, 1930.6·7) 등을 발표하여 시인으로서의 자리를 굳혔다.
시작 초기에는 「광명을 캐는 무리」 · 「용광로」 등 경향적인 작품활동을 통하여 동반자작가로도 활약하였다. 그러나 1936년 시 전문지 『시건설(詩建設)』에 참여하면서부터 순수시의 경향으로 돌아왔다. ‘예언의 시인’, ‘태양의 시인’(백철), 혹은 ‘선학(仙鶴)의 시인’(김해성)으로도 불릴 만큼 정열적이며 선학상의 풍모로, 일생 동안 향토를 지키며 시작 활동을 지속하여왔다.
김해강의 시세계는 일반적으로 3기로 나누는데, 초기 시(1925∼1945)는 주로 정열적으로 암울한 시대상을 표출하거나 혹은 자연과의 친화를 대상으로 한다. 중기 시(1945∼1960)는 자연과 인사(人事)와의 교정(交情)이 특징을 이루고 있으며, 후기 시는 한국적 전통의 순수서정시로 돌아가 인생을 관조하는 시정이 나타나 있다.
한편, 문단의 교우 관계는 그리 넓지 않았으나 엄흥섭(嚴興燮) · 김병호(金炳昊) · 윤곤강(尹崑崗) 등과는 두터운 교분을 맺어왔다. 특히, 김남인(金嵐人, 본명 김익부(金益富))과는 형제애와 같은 우정으로 2인 시집 『청색마(靑色馬)』(1940)를 간행하기도 하였다.
시집으로는 『동방서곡(東方曙曲)』(1968) · 『기도하는 마음』(1984) 등이 있으며, 1940년대에는 연재소설 「장설라(張雪羅)」와 「사랑의 여명」을 『동광신문(東光新聞)』에 발표하기도 하였다. 1962년 한국예술문화단체총연합회 전라북도 지부 초대 지부장을 역임하였다.
시작 활동과 교육계의 공적으로 전라북도문화상(1957) 및 전주시민의 상(1968)을 받았다. 1993년 김해강시비가 전주에 건립되었다.