1918년경 중국으로 망명하여 황푸육군군관학교[黃埔陸軍軍官學校]를 졸업하였다.
김태원은 벽창의용단원으로서 1922년 광복군사령부 국내출장원인 이용담(李龍潭)·주상옥(朱尙玉)·김택수(金澤秀)·정창화(鄭昌和) 등과 함께 평안북도 삭주에 잠입하여 대관면(大館面)의 일본경찰주재소 및 창성주재소를 습격하고 일본경찰 4명을 사살하였다.
그해 8월에는 대한민국임시정부의 신임하에 양승우(楊承雨) 등과 벽창의용단(碧昌義勇團)을 조직하여 군자금모금과 일본경찰 및 밀정의 사살 등 항일투쟁을 전개하였다.
이어 만주 관전현(寬甸縣)으로 건너가 무장투쟁을 벌였으며, 1926년 다시 국내에 잠입, 군자금을 모금하다가 일본경찰에 붙잡혔다.
1926년 4월 21일 신의주지방법원 제1호 법정에서 열린 공판에서 김태원은 '나의 행동은 결코 살인강도가 아니다. 오직 흰옷 입은 대중의 복리를 위하여 그에 방해되는 것을 배제하며 그에 이로운 것을 보호하였을 뿐이다. 이러한 각오 아래 그 일에 착수한 이상 죽는 것을 아끼는 비열한 내가 아니지마는 우리 휜옷 입은 사람으로 색옷 입은 사람에게 사형선고를 받는 것이 오직 통분할 따름이다.'라며 당당한 모습을 보였다.
1926년 5월 14일 신의주지방법원에서 '강도살인죄'로 사형 언도, 항소했으나 동년 9월 4일 평양복심법원에서 기각되었다. 1926년 11월 8일 고등법원에서 상고가 기각되어 1926년 12월 23일 순국하였다.
1963년 독립장이 추서되었다.