김홍술에 관한 역사 기록은 매우 간략하지만 후삼국 시기에 활동한 중요 인물 중 한 명이다. 그에 관해서는 『삼국사기(三國史記)』와 『삼국유사(三國遺事)』, 『고려사(高麗史)』 등의 자료를 참고할 수 있다. 그는 신라 말에 진보현(眞寶縣: 현 경상북도 청송군 진보면)의 유력 세력가 가운데 하나였는데, 889년(진성여왕 3) 농민 봉기를 계기로 자립하여 진보성주(眞寶城主)가 되었다.
이처럼 김홍술은 신라 말의 혼란을 틈타 독자적인 세력으로 성장하였으며, 고려의 세력권에서 멀리 떨어져 있음에도 922년(태조 5)에 태조 왕건(王建)에게 귀부하여 남다른 대우를 받았다. 태조는 이때 원윤(元尹) 왕유(王儒)와 경(卿) 함필(含弼) 등을 보내 위로하였으며, 923년(태조 6)에 홍술이 아들 왕립을 보내 갑옷 30벌을 바치자 왕립을 원윤(元尹)으로 임명하였다.
또한 929년(태조 12)에 김홍술이 갑졸(甲卒) 5천 명을 이끌고 의성지역으로 쳐들어 온 견훤(甄萱)에 맞서 싸우다가 전사하자, 태조 왕건은 이 소식을 전해 듣고 “좌우의 두 팔을 모두 잃었다.”라고 하면서 애통해 하였다. 진보성의 성주 장군이었던 김홍술이 의성부(義城府)의 성주 장군으로 바뀐 점에 대해서는 그가 고려에 귀부하면서 그의 관할 지역인 ‘진보현’이 ‘의성부’로 격상되었다는 견해도 있지만, 홍술이 전략상 의성부로 파견된 것이라는 주장도 있다. 또한 의성부의 성주 장군 홍술을 초명(初名)이 홍술(洪述)이었던 홍유(洪儒)와 혼동한 것으로 보는 견해도 있다. 한편, 『신증동국여지승람(新增東國輿地勝覽)』에는 김홍술의 모습이 태조 왕건과 비슷했다는 기록도 있다.
김홍술이 전사한 이후 그는 지역민들에 의해서 의성(義城) 성황신城隍神)으로 받들어졌으며, 조선 후기인 1706년(숙종 32)에는 지역 유림들이 충렬사(忠烈祠)를 세워 그의 위패를 모셨다. 또한, 1804년(순조 4)에는 의성현령 김리복(金履復) 등이 ‘홍술장군순절비(洪術將軍殉節碑)’도 건립하였다.