함경남도 장진 출신. 1934년 회령보통학교를 졸업하고, 1940년 일본 메이지대학(明治大學) 상과 별과에 입학하였으나 중퇴하고 1942년에 귀국하였다. 1943년 조선전업주식회사에 입사하였다가 퇴사하고, 1945년 월남하여 대동신문사의 기자생활을 하였으나 역시 성격에 맞지 않아 퇴직하였다.
1946년 2월 반도가극단에 입단하여 프롬프터로 일을 시작하였다. 1946년 11월 「장화홍련전」의 주요 배역인 사또역을 맡은 배우가 갑자기 잠적하자, 대역으로 출연하면서 배우로서 첫 출발을 하게 되었다. 「칠공주」에서 정식배역을 맡기 시작한 이후, 「공팔용」 · 「옥루몽」 · 「에밀레종」 등 다수 작품에 출연하였다.
한국전쟁 중에는 선무공작단이란 이름의 군연예대 소속으로 활동하였다. 1956년 「청춘쌍곡선」으로 비로소 영화에 등단하여 인기를 얻게 되면서 「부부독본」 · 「복도 많지 뭐요」 · 「마도의 향불」 · 「오부자」 등 수많은 영화에 출연하였다. 당시 동료 영화배우이며 코미디언인 구봉서(具鳳書)와 함께 ‘합죽이 · 막둥이’라는 예명으로 콤비를 이루어 서민들의 절대적인 사랑을 받았다.
1964년 미국 국무성 초청으로 미국을 다녀왔으며 1967년 그가 주연으로 출연한 국책영화 「팔도강산」이 흥행에 성공하면서 국가발전의 홍보에 기여한 공로로 박정희(朴正熙) 대통령의 총애를 받기도 하였다. 1968년 「속 팔도강산」의 주연으로 출연하여 역시 대단한 성공을 거두었다.
「자유부인」 · 「와룡선생 상경기」 · 「오색무지개」 · 「오부자」 · 「사랑방손님과 어머니」 등 750여 편의 영화에 출연하였던 그는 코미디언이라기보다는 성격배우로서의 자신의 독특한 위치를 구축하였고, 극장의 쇼 무대나 텔레비전방송에 수없이 출연하여 성대 묘사로 옛 가요들을 불러 인기를 모으면서도 항상 실향민으로서의 한을 호소한 대표적인 연예인이었다.
1963년 제10회 아시아영화제에서 「새댁」으로 성격 배우상을, 같은 해 제3회 대종상에서 「쌀」로 남우조연상을, 그리고 1972년 제11회 대종상에서 「작은 꿈이 꿈꿀 때」로 두 번째 남우조연상을 수상하였다. 1992년 그의 자전회고록인 『어느 광대의 사랑』을 출간하였다.