본관은 상산(商山). 자는 이신(而信), 호는 대하재(大瑕齋). 단성(丹城: 지금의 경상남도 산청군) 출생. 아버지는 진사 김준(金浚)이며, 어머니는 강양이씨(江陽李氏)로 강인배(姜仁培)의 딸이다. 하항(河沆)에게 수학하였다.
1591년(선조 24)에 장차 왜적이 난을 일으킬 것을 예측하고 방백(方伯)에게 편지로 산성을 수축할 것을 건의하였다가 민심을 동요시켰다는 죄목으로 투옥되었다. 이듬해 왜적이 침입하자 사람들은 모두 김경근의 선견에 탄복하였다.
조카 김응호(金應虎)와 함께 인근에 격문을 보내 창의(倡義)하여 적과 싸웠다. 초유사(招諭使) 김성일(金誠一)이 조정에 포상을 건의하였다. 정유재란 때 성묘하러 가던 중 왜적을 만나 끝까지 항거하다가 피살되었다.
왜적이 김경근의 의로움에 감복하여 나무에 '朝鮮國義士金景謹之屍(조선국의사김경근지시)'라고 써 놓았다. 1882년(고종 19) 사헌부감찰에 추증되었다. 저서로는 『대하재실기(大瑕齋實記)』 3권이 있다.