강계식은 8남매 중 장남으로, 충남 온양의 소학교 졸업 후 서울로 올라와 경성실천상업학교를 1937년에 졸업했다. 이후 지방관리양성소를 다녔고, 중국 북경과 만주를 떠돌며 2년여 간 방랑생활을 했다. 지방관리양성소를 다니는 동안 연극 구경을 다녔고 연극배우가 되겠다는 뜻을 세우게 되었다. 특히 소학교 때 관극한 토월회의 「데아브로」 공연, 극연좌의 농촌 순회 공연들은 그가 연극의 길을 선택하는 데 큰 영향을 주었다. 그는 유치진이 이끄는 현대극장 부설 국민연극연구소(1941년 발족)의 1기생으로 연극계에 입문했다. 첫 데뷔무대는 현대극장의 창립작인 「흑룡강」(유치진 작, 1941)의 군중 역이었고, 이어 「북진대」(유치진 작, 1942)에서 일진회원으로 출연했다. 단역을 맡던 강계식이 일약 주역으로 부상한 연극은 「대추나무」(유치진 작, 1942)로서, 주인공 동욱 역을 맡았다. 준수한 용모와 온화한 성격, 모범 연구생 이란 덕목을 평가받아 주역으로 발탁된 것이다. 「대추나무」에서 호평을 받자 이후 현대극장의 「에밀레종」, 「남풍」, 「황해」 등 함세덕 작품의 주인공 역을 도맡아 했다. 그러나 1944년 동양극장 배우의 영입을 반대하여 젊은 단원들과 현대극장 탈퇴사건을 일으킨 후 유치진 대표와 소원해졌다.
해방 이후에는 좌파 노선의 극단 청포도 창립단원으로, 1946년 극단 민예에서, 1947년에는 극단 신지극사의 창립단원으로 연기활동을 했다. 이 시기 대표작은 제2회 3·1연극제 공연작인 「태백산맥」(함세덕 작, 이서향 연출)으로, 징용 탈주자 만돌 역할을 맡았다.
강계식은 6·25전쟁 이후 신협과 국립극단을 중심으로 활동했다. 주요 출연작은 「빌헬름 텔」, 「햄릿」, 「오델로」, 「맹진사댁 경사」, 「맥베드」, 「붉은 장갑」, 「원술랑」, 「한강은 흐른다」 등이다. 신협이 국립극단의 전속 극단이 되면서 국립극단 단원이 된 그는 이후 신협이 탈퇴할 때에도 국립극단에 남아 1977년 정년퇴직할 때까지 전속 배우로 활동해 「대수양」, 「성웅이순신」, 「순교자」 등 70여 편의 공연에 출연했다.
강계식은 평소 역할을 가리지 않고 작은 역이든 큰 역이든 주어진 배역에 충실하면서 최선의 연기를 보여주려 노력했다. 국립극단 은퇴 이후엔 극단 대하와 배우극장에 참여하여 많은 연극에 출연했다. 오랜 연극배우 생활 동안 총 200여 편에 출연한 것으로 추산된다.
그는 영화배우, 방송드라마 연기자로도 활동했다. 1946년 「며느리의 죽음」으로 영화계에 데뷔한 이래 50년대 말부터는 다수의 영화에 조연 혹은 단역으로 출연했으며, 신상옥 감독의 「천년호」(1969)에서는 주역을 맡기도 했다.
강계식의 연기는 현대극장에서 시작된 ‘리얼리즘 연기술’에 바탕한 것이며, 평범함 속에서 때로 비범함을 분출하는 서민배우, 모범적인 사생활과 행복한 가정을 일군 평범한 배우, 실생활과 신앙생활, 연기를 조화시킨 배우라는 평을 받았다.
1991년 대한민국 문화예술상 목관 문화훈장을 수상했다.