김영상은 태인 무성서원(武城書院)의 장리(掌理)로 있던 중 1905년 11월 일제가 을사조약을 강제 체결하여 국권을 빼앗기자 70세의 고령임에도 최익현 · 임병찬 등과 함께 태인의병에 참여하였다고 한다. 1906년 6월 무성서원에서 의병을 일으켰을 때 총참모장이 되어 지역 유생들을 참여하게 하였다.
최익현이 대마도에서 순국하자 1907년 태산사(台山祠)를 건립하고 그의 영정을 봉안하였다. 이때 김영상은 유림들의 요청으로 태산사 상량문을 지었고 한동안 태산사에 머물렀다.
1910년 8월 한국을 강제 병합한 일제가 10월 노인들에게 은사금(恩賜金)을 주려 하자 “대한신민(大韓臣民)이 어찌 원수의 돈을 받겠는가.”라며 이를 수차례 거절하면서 사령장에 적힌 자신의 성명을 찢어버렸다고 한다. 이에 1911년 5월 일제가 일왕을 모독한 불경죄로 그를 체포하여 동곡헌병대에 구금하였다가 군산으로 압송할 때 만경강 사창진(沙瘡津)에서 투신하여 자결하려 하였으나, 헌병이 그를 구출하여 실패하였다. 군산 감옥에 투옥된 그는 단식 끝에 76세를 일기로 옥중에서 순국하였다.
「춘우정문고(春雨亭文稿)」와 만경강에 투신할 때 품고 있었다는 「춘우정절명사(春雨亭絶命詞)」가 남아 있다.
1945년 김환풍 · 안항섭 등이 발의하여 김영상의 충절을 기리기 위한 사당인 필양사(泌陽祠)를 건립하였다(국가보훈처 지정 현충시설, 관리번호: 51-1-19, 관리자: 필양사보존회). 1978년 지역 인사들이 김제 만경강 사창진에 「춘우정투수순절추모비(春雨亭投水殉節追慕碑)」를 건립하였다. 정부에서는 고인의 공훈을 기리어 1963년 대통령 표창, 1991년에 건국훈장 애국장을 추서하였다.
2011년에는 순국 100주기를 맞아 필양사에 「우국지사춘우정김영상선생순국추모비(憂國之士春雨亭金永相先生殉國追慕碑)」를 건립하였다. 2012년 정읍문화원에서 『춘우정 김영상선생 순국100주년 기념집』을 발간하였다. 2021년 11월에는 ‘정읍의 역사인물’로 선정되었으며, 어진화가(御眞畫家) 채용신(蔡龍臣)이 1922년에 그린 「투수도(投水圖)」와 후손인 이호백이 그린 「춘우정투강순절도(春雨亭投江殉節圖)」 등이 있다.