본관은 광산(光山). 1922년 6월 3일 대구에서 출생하였다. 세례명은 스테파노이다. 조부 김보현은 1866년 병인박해 때 순교한 로마 가톨릭 신자였다. 아버지 김영석, 어머니 서중하 또한 가톨릭 신자로서, 독실한 가톨릭 집안의 막내로 출생하였다.
1941년 서울 동성상업학교를 졸업하고, 같은 해에 일본 조치(上智)대학에 입학했으나, 1944년 제2차 세계대전으로 학업을 중단하고 귀국했다. 1947년부터 1951년까지 가톨릭대 신학부에서 신학을 전공하고, 1951년 사제 서품을 받았다.
1974년 서강대 명예문학박사, 1977년 미국 노트르담대 명예법학박사, 1988년 일본 조치대 명예신학박사, 1990년 고려대 명예철학박사, 1990년 미국 시튼홀대 명예법학박사, 1994년 연세대 명예신학박사, 1995년 타이완 푸젠(輔仁) 가톨릭대 명예철학박사, 1997년 필리핀 아테네오대 명예인문학박사, 1999년 서울대학교 명예철학박사 학위를 받았다.
1951년부터 1956년까지 대구대교구 안동본당 교구장 비서, 김천본당 주임(성의중고 교장 겸임)을 맡았다. 1956년부터 1963년까지 독일 뮌스터대학 및 대학원에서 사회학을 전공했다.
1964년 가톨릭시보사(현 가톨릭신문) 사장이 되었다. 1966년 주교가 되었으며, 마산교구장으로 임명되었다. 1968년 대주교로 승품되면서 서울대교구장이 되었다. 1969년 교황 바오로 6세에 의해 한국 최초의 추기경으로 서임되었다.
이후 1970∼1975년(1차), 1981∼1987년(2차) 한국 천주교 주교회의 의장, 1970∼1973년 아시아 천주교 주교회의 구성 준비위원장, 1975∼1998년 평양교구장 서리, 1998년 아시아 주교회의 공동의장, 1998∼1999년 실업극복국민운동 공동위원장 등을 역임했다.
평생을 주님의 복음을 전파하는데 헌신해 왔으며, 민주화운동에도 앞장섰다.
주요 저서로 『하느님은 사랑이시다』, 『평화를 위한 기도』, 『이 땅에 평화를』, 『참으로 사람답게 살기 위하여 · 김수환 추기경의 세상사는 이야기 · 』, 『우리가 서로 사랑한다는 것』, 『너희와 모든 이를 위하여』 등이 있다.
1970년 국민훈장 무궁화장, 2000년 제13회 심산상과 제2회 인제인성대상, 2001년 독일 대십자공로훈장, 2002년 칠레 베르나르도오히긴스 대십자훈장 등을 받았다.
김수환 추기경은 2009년 2월 16일 선종하였으며 그의 묘소는 용인 천주교 공원묘지에 있다.