부산 서대신동 3가 934번지에서 출생. 한국전쟁시 대위로써 제3사단 제22연대 1중대장으로 참가하여 강원도 김화군 임남면 소성리의 748고지전투(피의 능선 전투)에서 입은 전상으로 사망하였다.
이 전투에서 김갑태 대위는 대대장 대리로서 적 2개중대의 공격을 방어하였으나, 2차에 걸친 적의 맹렬한 공격으로 부득이 고지에서 철수할 수밖에 없었다. 그 뒤 1952년 10월 2일, 대대는 고지를 탈환하기 위하여 18연대의 5·7중대와 합세하여 역습에 나섰다.
하지만, 고지 남쪽 경사면의 특화점에서 치열한 저항이 계속되어 8부능선에서 공격이 돈좌되고 말았다. 이에 대대장대리 김대위가 공격을 독려하기 위하여 1중대 최선두에서 대대를 지휘하자 사기가 오른 아군은 일제히 돌격에 나서 적을 격퇴할 수 있었다.
그러나 김대위는 고지 9부 능선상에서 파편상을 입고 후송되었다가, 3일만에 사망하고 말았다. 중령에 추서되었으며, 1953년 1월 15일 을지무공훈장이 수여되었다.