본관은 광산(光山). 자는 여일(汝一), 호는 만치당(萬痴堂). 김영산(金永産)의 증손으로, 할아버지는 김익겸(金益謙)이고, 아버지는 김섭(金燮)이며, 어머니는 양희열(楊希悅)의 딸이다. 김장생(金長生)의 문인이다.
1610년(광해군 2) 진사시에 합격하였으나 서인으로서 대북(大北)에 반대하여 두문불출하다가, 1624년 식년 문과에 병과로 급제, 감찰 등을 지냈다.
1630년 동지사(冬至使)의 서장관(書狀官)이 되어 명나라에 다녀왔고, 병자호란 때 묘사(廟社)를 따라 강화도로 피란하였으나, 그곳에 적군이 침입하자 홍명형(洪命亨)과 같이 김상용(金尙容)을 따라 남루(南樓)에 올랐다.
김상용이 순절하려고 여러 사람을 물리치고 김수남에게 말하기를, “벼슬의 질서에는 높고 낮은 분별이 있으나 신하로서 다 같은 점은 나라를 위하여 죽고자 하는 뜻에 있는 것이다. 내가 그대와 같이 죽으면 유감이 없겠다.”하니, 김수남은 “사국(死國)의 두 글자는 남아로서 정해진 바이니, 나라의 일이 이에 이르렀는데 살기를 원하지 않는다. 후일에 바라는 바는 오직 내 두 아들이 어머니를 위로하면 나는 죽어도 한이 없겠다.”라고 쓴 유서를 노복에게 주어 처에게 전하게 하고 김상용과 함께 남루에서 분사(焚死)하였다. 뒤에 공조좌랑·승지에 추증되었다. 강화의 충렬사(忠烈祠), 은진의 금곡사(金谷祠)에 제향되었다.