본관은 장연(長淵). 평안남도 중화군 율리(栗里) 출생. 세례명은 바오로. 부모가 모두 독실한 천주교신자였다.
1917년용산 성심신학교에 입학한 뒤 대신학교 신학부를 졸업하고, 1930년 10월 사제로 서품받아 명동성당 보좌신부로 활동하였다.
계성보통학교(지금의 계성여자고등학교)의 설립자 대리가 되어 가톨릭교육에 헌신하는 한편, 본당의 합창단을 신설하는 등 교회발전과 계몽운동에 노력하였다.
당시 우리나라에서 황국화 작업을 서두르던 일제가 외국인 교구장들을 모두 일본인으로 교체하려고 하자, 그 당시 서울교구장이었던 주교 라리보(Larribeau, 元亨根)가 사임을 결심하고 후임자로 노기남을 비밀리에 로마교황청에 추천하며 1942년 1월 제10대 서울교구장에 임명되었다.
급박한 시대적 상황 때문에 본당 주임신부를 거치지 않고 곧 바로 주교로 승격된 그는 일제의 종교동화정책에 계속적인 저항을 하면서, 감금된 35명의 프랑스와 아일랜드 성직자들을 일제의 압박에서 보호해 주기도 하였다. 그 공로로 프랑스 정부로부터 최고문화훈장을 받았다. 하지만 천주교 교단의 지도층으로서 일제의 식민통치를 정당화하는 각종 행사에 참석하거나 집회를 주재하는 등 일제의 침략전쟁에 대한 교단의 협력을 주도하기도 하고, 1939년에는 국민정신총동원조선연맹의 산하기구인 국민정신총동원천주교경성교구연맹의 이사를 역임하였다. 1943년에는 조선종교단체전시보국회에 참석하여 특별지원병제도를 선전하기도 하였다.
8·15광복 후 군정기간 중에 군정장관 하지의 의뢰를 받아 ‘노기남메모랜덤’이라는 정부보직 적격자명단을 작성해 주는 한편, 해외에서 귀국한 이승만·김구 등의 독립운동가들과 더불어 대한민국 건국에 관하여 논의하였다. 이와 같이 당시의 우리 나라 정치·사회상황에 대해 적극적으로 대처해가면서 교회발전과 사회봉사의 기반을 확대하는 데 주력하였다.
1946년에는 민족항일기에 폐간되었던 교회기관지 『경향잡지』와 『가톨릭청년』을 복간하고, 가톨릭정신을 사회적으로 확산시키기 위하여 일간지인 『경향신문』을 창간하였다.
또한, 성모병원과 성당부설학교 등을 설립하여 가톨릭의 사회적 기능을 증대시켰다. 특히 『경향신문』은 당시 사상적으로 혼란을 겪고 있던 사회분위기에서 반공사상을 고취하여 좌익세력을 견제하는 데 큰 구실을 하였다.
그러나 제1공화국 말기에는 정부를 자주 공개비판하여, 결국 이승만 대통령과 마찰을 빚게 되었고, 로마교황청으로부터 ‘정치주교’라는 지적까지 받았다. 자신은 교회가 직접 정치에 참여하는 것에 대해 비판적인 자세를 견지했으나, 제2공화국 수반인 장면(張勉)의 지지를 호소하는 등 가톨릭교인을 통해 정치적 영향력을 확산시키려고 노력하였다.
1946년 9월에는 전국 교구장회의를 열어 한국순교자현양회를 창설, 가톨릭 순교성지인 한강 새남터에 순교기념탑을 설립하는 등 순교자 현양사업을 적극적으로 추진하였다. 그 뒤에 103위 한국성인의 탄생 기틀을 마련하였다. 1950년 교황청을 방문하던 중 6·25전쟁이 일어나자 각국에 한국의 어려움을 호소하여 지원을 받기도 하였다. 또한 유엔군이 북진해감에 따라 평양을 방문하여 북한지역에 교회재건을 시도하기도 하였다.
1953년에는 전국 교구장으로 구성된 천주교중앙위원회를 발족시켜 총재로 취임하였고, 1955년에는 미국과 유럽 등지를 순방하면서 전쟁피해의 복구와 재건을 위해 적극적인 원조를 호소하여 큰 성과를 거두었다.
1962년 3월 대목구(代牧區)로 포교지의 성격을 벗어나지 못했던 한국교회가 로마교황청으로부터 자립능력과 성숙성을 인정받음에 따라 교계제도(敎階制度)의 설정을 위임받아, 서울·대구·광주의 세 관구를 설립하였다. 그리고 그는 서울대교구장으로 임명됨과 동시에 대주교로 승품(昇品)되었다.
1962년 10월 로마에서 열린 제2차 바티칸공의회에 참석하고 난 뒤 가톨릭교회에 제기되는 현대사회의 도전에 대해 창조적 응답을 해야 함을 절감하고 우리 나라 교회의 갱신과 세대교체의 필요성을 느껴, 1967년 3월 서울대교구장직에서 은퇴하여 성나자로마을에서 나환자들과 함께 생활하였다.
1963년 8월에는 대한민국국민훈장, 1966년 2월에는 이탈리아 대통령이 수여하는 코멘다토레(Commendatore)훈장을 받았다. 또한 같은 해 12월에는 당시 창립된 한국종교인협의회 회장으로 선출되기도 하였다.
1984년 5월 한국교회창설 200주년에 교황을 맞이하여 103위 시성식을 끝내고 곧 선종하였다. 장지는 용인 가톨릭묘지이다. 저서로는 『나의 회상록』·『당신의 뜻대로』가 있다.
노기남의 일제강점기 활동은 「일제강점하 반민족행위 진상규명에 관한 특별법」제2조 제11·13·17호에 해당하는 친일반민족행위로 규정되어 『친일반민족행위진상규명 보고서』Ⅳ-5: 친일반민족행위자 결정이유서(pp.51~85)에 관련 행적이 상세하게 채록되었다.