김영서(金永瑞)는 1882년 11월 23일 부산광역시 동구 좌천동 255번지에서 태어났다. 호는 좌천(佐川)이다. 평양 숭실학교를 졸업하였다.
평양 숭실학교 재학 중인 1905년 11월 을사조약에 체결되자 동료 12명과 함께 대한문 앞에서의 조약 반대 투쟁에 동참하였다고 하며, 1911년 대구 계성학교에서 물리, 화학, 식물, 법제 등을 지도하였다.
대구 계성중학교의 교사로 재직하던 중에 3 · 1운동 소식을 듣고, 1919년 2월부터 만세 시위를 계획하고 있던 대구 장로교 남성정교회 이만집 목사는 장로교 신정교회에 다니던 그에게 신정교회 교인들 성경학교 및 계성학교 학생들의 동원을 요청하였다. 3월 6일 대구에 독립선언서가 전달되자 이만집 목사와 같은 학교 교사인 백남채 등과 3월 8일 서문시장 장날을 이용하여 거사에 나설 것을 계획하였다. 또한, 계성학교 학생 7~8명에게 교내 아담스관 지하실에서 독립선언서를 등사하고 태극기를 제작하도록 지시하였다.
같은 해 서문시장 장날인 3월 8일 장로교 교인 및 계성학교 · 신명여학교 교사와 학생들은 만세 시위에 나서 태극기와 ‘대한독립만세’라고 쓴 깃발을 흔들며 본정(本町)과 경정(京町)을 거쳐 동성정(東城町)까지 행진하였다. 이때 김영서는 검문을 피하여 잠시 은거해 있다가 3월 10일 학생 김삼도 · 박성용 · 박재헌 · 박태현 · 이석도 등과 덕산정 시장에서 만세 시위를 벌이다 검거되었다.
1919년 4월 대구지방법원과 5월 대구복심법원에서 징역 2년 형을 선고받고 옥고를 치른 후 1920년 7월 21일 출옥하였다. 이후 교남학원 교사, 민립대학설립기성회 대구부지방부 집행위원, 대구법전학원 교사 등을 지냈으며, 1921년 신정교회에서 달서유치원을 설립하는 데 기여하였다. 1928년 교남학원의 고등보통학교 승격을 위하여 경상북도 일대를 순회하였다.
1977년에 대통령 표창을 받았으며, 1990년에 건국훈장 애족장이 추서되었다.