‘무력지(武力知)’·‘무력(茂力)’이라고도 표기되어 있다. 김유신의 할아버지이고, 금관가야의 마지막 왕인 구형왕의 셋째아들이다.
532년(법흥왕 19) 금관가야가 신라에 병합되자, 부왕과 왕모 및 큰형 노종(奴宗), 둘째형 무덕(武德) 등과 함께 신라에 나라를 바쳤다.
진흥왕이 백제와 연합하여 당시 고구려가 점유하고 있던 한강유역을 차지하고, 다시 백제의 점령지까지 탈취하여 한성(漢城)을 중심으로 신주(新州)를 설치할 때, 김무력이 크게 공을 세워 아찬(阿飡)의 관등으로 신주의 군주(軍主)가 되었다.
이렇게 되자 백제의 성왕이 직접 군사를 거느리고 관산성(管山城: 지금의 충청북도 沃川)을 공격해 오게 되었는데, 이때 김무력은 주병(州兵)을 이끌고 교전하여 성왕을 전사시키고, 백제의 좌평 4명과 사졸 2만 9600명을 전멸시키는 전공을 세웠다. 그 뒤 관등이 각간(角干)에 이르렀다.
아들 서현(舒玄)은 진평왕 때 대량주도독(大梁州都督)을 역임하였고, 손녀인 문희(文姬)는 태종무열왕의 비가 되었으며, 손자 김유신은 태종무열왕과 문무왕을 보필하여 삼국통일에 크게 기여하여 신라 역사상 최고로 숭앙을 받는 인물이 되었다.