기독교 집안의 3남 2녀 중 차남으로 태어나 황해도 재령의 소학교를 마치고, 1945년에 명신중학교(5년)를 졸업했다. 중학 시절부터 연극에 흥미를 느껴 훌륭한 배우가 되겠다는 꿈을 품었다. 소련군이 진주하고 공산당이 지배하는 어수선한 사회 분위기에 불안을 느낀 그는 1946년 봄, 단신 월남하여 서울로 왔다. 월남 도중 중학 졸업장을 분실하여 대학 진학의 꿈이 좌절되자 현철이 세운 조선배우학교에 다니면서 연극 이론과 연기술을 배웠다. 연극무대의 첫 데뷔는 1947년 원예술좌(이보라 대표)의 성극 「모세」의 타이틀 롤이었는데, 주역 배우의 대타로 지방 순회공연 무대에 섰다. 같은 해 서울중앙방송국(KBS) 라디오 성우 시험에 합격하여 전속 성우가 되었고, 박학 등 좌익 연극인들과 함께 일하면서 스타니슬라프스키(Konstantin Sergeevich Stanislavskii), 메이어홀드(Vsevolod Emilievich Meyerholt)의 연기술 등을 이론서와 함께 활동하던 연극인들로부터 익혔다. 온화하고 기품있는 외모와 정확한 발성법을 지닌 그는 이후 라디오드라마와 연극계에서 주연급 연기자로 활동했다. 이광래 주도의 제3무대에 참여해서 「젊은 그들」(김동인 원작), 「민족의 전야」(이광래 작) 등에 출연했고, 1949년에는 한운사, 조남사, 최무룡 등과 극단 청막극회를 조직하기도 했다. 그러나 이 시기 그의 주 무대는 라디오드라마였다. 성우로 데뷔한지 2년여 만에 최고 출연횟수를 기록했는데, 토월회 출신으로 당시 방송국의 연예계장이던 이백수의 낭독법을 전수받아 「삼국지」의 연속 낭독으로 큰 인기를 끌었다.
6·25전쟁이 발발하자 피난가지 못하고 서울에서 숨어 지냈는데, 9·28수복으로 상경한 이해랑의 주도로 이광래, 박경주, 최무룡, 최창봉 등과 함께 신협 재건에 참여했다. 이후 신협은 육군 정훈국 소속의 문예중대가 되어 대구로 내려가 연극활동을 했다. 그는 김동원, 황정순 등과 더불어 신협의 핵심 배우로 자리잡았고, 「목격자」(앤더슨 작·유치진 연출, 1951)의 가스 역, 「줄리어스 시저」(셰익스피어 작·이해랑 연출, 1953)의 안토니오 역 등을 맡아 호평을 받았다.
종전 이후 서울로 상경했는데, 신협의 연극뿐 아니라 방송국 성우와 영화 주연까지 도맡아 스타 배우의 명성을 누렸다. 라디오드라마 「똘똘이의 모험」, 「청춘극장」, 「삼국지」, 「금삼의 피」 등에서 저음의 독특한 음색으로 인기를 얻었다. 영화도 데뷔작 「유전의 애수」 (조남사 작·유현목 감독, 1956)를 시발로 「백치 아다다」(이강천 감독, 1956), 「잃어버린 청춘」(유현목 감독, 1957), 「수정탑」(전창근 감독, 1958), 「생명」(이강천 감독, 1958) 등에서 주·조연을 맡아 정통 리얼리즘연기를 보여주었다.
이처럼 라디오, 무대, 스크린을 주름잡는 만능배우였지만, 그의 주된 관심분야는 연극이었다. 자신을 신협의 연극으로 이끈 이해랑 연출과 늘 호흡을 같이 했으며, 1962년 국립극단 입단 후에는 백성희와 더불어 국립극단의 간판 배우로 활동했다. 1967년부터 2년간 그리고 1979년부터 1990년까지 국립극단장을 맡아 연극계의 여건 개선에도 힘썼다.
그가 대배우로 평가받기 시작한 것은 1960년을 전후해서인데, 「대수양」(이광래 각색·박진 연출, 1959)과 신협의 「안네의 일기」(이해랑 연출, 1960)에서 펼친 명 연기로 관객의 뜨거운 호응을 받았다. 1970년대에는 장충동국립극장 개관작인 「성웅 이순신」(이재현 작·허규 연출, 1973)의 타이틀 롤을 맡았고, 특히 「파우스트」(괴테 작, 1966, 1970, 1997 등)의 파우스트 역은 40년에 걸쳐 4번 맡아 ‘파우스트 장’이라는 애칭도 얻었다. 지속적으로 무대에 서온 그는 2000년대에는 자전적 연극이자 그에게 헌정된 연극 「그래도 세상은 살 만하다」(극단 신화, 이근삼 작·김영수 연출, 2001), 평양에서 공연된 가극 「금강」(신동엽 시, 문호근 작·김석만 연출, 2004), 명동예술극장 재개관 기념작 「맹진사댁 경사」(오영진 작·이병훈 연출, 2009) 등에 출연했다. 2011년에는 한국 최초로 배우에게 헌정된 극장인 서계동 국립극단의 백성희장민호극장 개관작 「3월의 눈」(배삼식 작·손진책 연출)에 백성희와 주연으로 출연했다. 한편 영화 「서편제」(임권택 감독, 1993)와 「태극기 휘날리며」(강제규 감독, 2004) 등에도 출연하여 대중에게 경륜이 묻어나는 연기를 보여주었다.
50년간 백수십 편의 작품에 주·조연으로 출연했으며, 강한 개성과 정확한 대사 구사의 발성법을 지닌, 정통 리얼리즘연기를 대표하는 배우로 평가된다.
1958년 제1회 방송문화상, 1963년 서울시 문화상, 1968년 제4회 백상예술대상 영화 부문 남자최우수연기상, 1981년 대한민국 문화예술상, 1982년 국민훈장 목련상, 1988년 대한민국 예술원상 및 예총 예술문화상, 1996년 제23회 한국방송대상 남자탤런트상 및 보관 문화훈장, 1997년 한국연극배우협회의 ‘올해의 배우상’, 1999년 제21회 동랑 유치진연극상, 2010년 은관 문화훈장 및 호암문화상을 수상하였다.