본관은 의령(宜寧). 할아버지는 의산군(宜山君) 남휘(南暉), 할머니는 정선공주(貞善公主: 태종의 4녀)이고, 아버지는 군수 남빈(南份)이며, 어머니는 현감 홍여공(洪汝恭)의 딸이다.
1460년(세조 6) 무과에 급제하고, 세조의 총애를 받으면서 여러 무직을 역임했으며, 1466년 다시 발영시(拔英試)에 급제했다.
1467년 명을 받아 포천(抱川)·영평(永平) 등지에서 도적을 토벌했고, 이시애(李施愛)가 반란을 일으키자 대장(大將)이 되어 구성군(龜城君) 이준(李浚)·조석문(曺錫文)·허종(許琮)·강순(康純)·어유소(魚有沼) 등과 토벌에 참가했으며, 군중에서 당상관에 초계(超階)되어 행부호군(行副護軍)을 거쳐 행호군이 되었다.
이시애의 난을 토벌한 공으로 적개공신(敵愾功臣) 1등에 책록되고 의산군(宜山君)에 봉해졌다. 이어 서북변(西北邊)의 건주위(建州衛) 여진을 토벌하자 평안도선위사(平安道宣慰使) 윤필상(尹弼商)의 지휘 하에 우상대장(右廂大將)이 되어 주장(主將) 강순, 좌상대장(左廂大將) 어유소와 함께 만포(滿浦)로부터 파저강(波猪江)을 공격해 이만주(李滿住)를 참살했다.
이러한 공로로 이등군공(二等軍功)을 받았으며, 그 뒤 공조판서에 임명되었다. 1468년에는 오위도총부도총관(五衛都摠府都摠管)을 겸했으며, 이어 병조판서에 발탁됐다.
그러나 그 해 신숙주(申叔舟)·한명회(韓明澮) 등 원상(院相) 세력에 의해 구성군·강순 등 이시애의 난 평정으로 등장한 신 세력이 제거될 때 형조판서 강희맹(姜希孟)이 지중추부사(知中樞府事) 한계희(韓繼禧)에게 남이의 사람됨이 군사를 장악하기에는 마땅치 않다고 말한 것을, 한계희가 예종에게 아룀으로써 병조판서에서 해직되어 겸사복장(兼司僕將)으로 밀려났다.
이때 궁궐 안에서 숙직을 하고 있던 중 혜성(彗星)이 나타나자 “혜성이 나타남은 묵은 것을 없애고 새 것을 나타나게 하려는 징조다.”라고 말했는데, 이를 엿들은 병조참지(兵曹參知) 유자광(柳子光)이 역모를 꾀한다고 모함함으로써 국문 끝에 능지처사당했다.
그 뒤 1818년(순조 18) 우의정 남공철(南公轍)의 주청으로 강순과 함께 관작이 복구되었다. 어릴 때 권람(權擥)의 딸이 귀신의 작난으로 죽게된 것을 남이가 귀신을 물리치고 살려준 것이 인연이 되어 그녀를 아내로 맞았다는 일화가 있다.
창녕의 구봉서원(龜峯書院), 서울 용산의 용문사(龍門祠) 및 서울 성동의 충민사(忠愍祠)에 배향되었다. 시호는 충무(忠武)이다.