918년(태조 1) 고려가 건국되자 2등공신이 되었다. 927년 원보(元甫) 재충(在忠)과 더불어 대량성(大良城: 지금의 경상남도 합천군 대양면)을 공격하여 무너뜨리고 후백제의 장군 추허조(鄒許祖) 등 30여 인을 사로잡았다.
같은 해에 견훤(甄萱)의 군사가 신라를 쳐서 경애왕을 자살하게 하였다는 소식을 들은 태조가 군사를 이끌고 견훤의 군사와 공산(公山: 지금의 대구)에서 싸울 때 대장 신숭겸(申崇謙)과 함께 위급해진 태조를 구하고 전사하였다.
태조는 지묘사(智妙寺)를 세워 김락의 명복을 빌었으며, 아우 김철(金鐵)을 원윤(元尹)으로 삼았다. 김락의 자손은 없으나 아우 김철의 후손들은 고려 전기에 고위관직을 지냈다. 1120년 예종은 김락과 신숭겸을 추도하여 향가 「도이장가(悼二將歌)」를 지었다. 시호는 장절(壯節)이다.