본관은 해풍(海豊). 자는 춘백(春伯). 호는 집의당(集義堂). 서울 출신. 성균진사 김집(金鏶)의 아들이며, 유인석(柳麟錫)의 문인이다.
일찍이 선전관을 지냈다. 1895년 11월 15일 단발령이 공포되자 김하락(金河洛)·구연영(具然英)·조성학(趙性學)·신용희(申龍熙) 등과 경기도 이천에서 이천수창소를 결성, 항일 의병을 봉기하였다.
김태원은 선봉장의 중임을 지고 안성 일대에서 의병을 초모, 1896년 1월 이천의 백현(魄峴) 전투를 승리로 이끄는데 큰 공을 세웠다. 이천의 이현(梨峴) 전투에서도 1초군(哨軍)을 거느리고 일본군과 돌격전을 벌였으며, 남한산성으로 본진이 옮긴 뒤에는 서울진공작전을 준비하였다.
남한산성전투에서 패한 뒤에는 제천의 유인석 의진을 거쳐 예천의 서상렬(徐相烈) 부대에 합세하여 의병활동을 계속하였다. 낭천(狼川: 지금의 화천)전투에서 서상렬을 잃은 김태원은 유인석을 좇아 만주의 회인현까지 배종하였다.
1905년에는 원용팔(元容八) 의진에, 1906년에는 최익현 의진의 소토장(召討將)으로 참여하였다. 1907년에는 이강년(李康秊) 의진에 참여하여 의병활동을 전개하였으나 이강년이 체포된 뒤 원주로 낙향하여 ‘존화양이론(尊華攘夷論)’을 후학에게 펼치다가 생애를 마쳤다.
1993년 건국훈장 독립장이 추서되었다.