본관은 의령(宜寧). 자는 운경(雲卿), 호는 호곡(壺谷). 남복시(南復始)의 증손으로, 할아버지는 남진(南鎭)이고, 아버지는 부사 남득명(南得明)이며, 어머니는 신복일(申復一)의 딸이다.
1646년(인조 24) 진사가 되고 1648년 정시 문과에 병과로 급제한 뒤, 시강원설서·성균관전적과 삼사를 거쳐, 병조좌랑·홍문관부수찬 등의 요직을 역임하였고, 잠시 경상도사(慶尙都事)로 좌천되었다가 다시 삼사로 돌아왔다.
1655년(효종 6) 통신사의 종사관으로 일본에 파견되었는데, 관백(關白)의 원당(願堂)에 절하기를 거절하여 음식 공급이 중지되고, 여러가지 협박을 받았으나 굴하지 않았다.
이듬해 돌아와 호당(湖堂: 독서당)에 뽑혀 들어갔고 문신 중시에 장원, 당상관으로 진급하여 형조·예조참의, 승지를 역임하고 양주목사로 나갔다. 현종 때는 대사간·대사성을 거쳐 공조참판을 빼고는 전 참판을 지냈으며, 잠시 외직으로 경상·경기감사로 나갔다가 형조판서에 올랐다.
1680년(숙종 6)부터 좌참찬·예문관제학을 역임하고, 1689년 소의 장씨(昭儀張氏)가 왕자를 낳아 숙종이 그를 원자로 삼으려 하자, 여기에 극언으로 반대하다가 명천으로 유배되어 3년 뒤 그곳에서 죽었다.
문장에 능하고 글씨에도 뛰어났으며, 효종·현종·숙종 3대에 걸쳐 청화요직을 두루 역임하고 문명을 날렸으나 즐거워하는 기색이 없었고, 늘 근신하고 근면하였다.
저서로는 신라시대부터 조선 인조대까지의 명인 497인의 시를 모아 엮은 『기아(箕雅)』 및 『부상록(扶桑錄)』, 그리고 자신의 시문집인 『호곡집(壺谷集)』을 남겼다. 시호는 문헌(文憲)이다.