평주(平州) 사람으로 태조를 도와 고려를 건국하는 데 커다란 공을 세워 개국공신이 되었다.
920년(태조 3) 3월 북계(北界)의 골암진(鶻巖鎭)이 거듭 북적(北狄)에게 침략당하자 개정군(開定軍) 3,000여 명을 거느리고 전투에 나섰다.
유금필은 골암진의 동산(東山)에 성을 쌓고 북번(北蕃)의 추장 300인을 복종시켰다. 925년 10월 정서대장군(征西大將軍)이 되어 후백제의 연산진(燕山鎭)을 공격해 장군 길환(吉奐)을 죽였다. 또한, 임존군(任存郡: 지금의 충청남도 예산군 대흥면)을 공격해 군사 3,000여 명을 베었다.
그리고 경상북도 안동의 조물군전투(曹物郡戰鬪)에서는 불리한 처지에 있던 태조의 군사를 도와 견훤(甄萱)을 곤란하게 하였다. 928년 탕정군(湯井郡: 지금의 충청남도 아산)에 성을 쌓고 있다가 후백제 군사가 청주에서 태조를 공격하자 군사를 보내어 이를 쳐부쉈다.
그 뒤 독기진(禿歧鎭)까지 추격해 300여 기를 살획하였다. 929년 견훤이 고창군(古昌郡: 지금의 경상북도 안동)을 포위·공격하자 많은 장수들이 진군을 망설였다. 그러나 유금필은 홀로 결사적인 태도로 임해 저수봉(猪首峰)으로부터 돌격한 뒤 크게 승리하였다.
931년에 참소를 입어 곡도(鵠島)로 귀양을 갔다. 이듬해 후백제의 해군장(海軍將) 상애(尙哀) 등이 대우도(大牛島)를 공략할 때 귀양지의 장정들을 모아 군대를 조직하고 전함을 수리해 방어하였다. 이에 태조가 감동해 다시 불러들여 중용하였다.
933년에는 정남대장군(征南大將軍)이 되어 의성부(義城府)를 수비하였다. 마침 후백제 군사로부터 경주를 구하라는 태조의 명을 받았다. 그래서 장사 80명으로 결사대를 조직해 신라사람들을 안심시켰다.
돌아오는 길에 후백제의 신검(神劒) 등을 만나 싸워서 크게 승리하였다. 장군 금달(今達)·환궁(奐弓) 등 7인을 사로잡고 매우 많은 사람들은 살획하였다. 934년 태조가 운주(運州: 지금의 충청남도 홍성)를 칠 때 경기(勁騎: 강한 기병) 수천 명을 거느리고 돌격해 3,000여 명을 살획하였다.
그리고 술사 종훈(宗訓)과 의사 훈겸(訓謙), 용장 상달(尙達)·최필(崔弼) 등을 사로잡아 웅진 이북의 30여 성이 고려에 항복하게 하였다. 935년 나주가 후백제의 공격을 받자 도통대장군(都統大將軍)이 되어 이를 경략하였다.
이듬해 고려와 후백제가 결전을 벌일 때 중군장(中軍將)으로 출전해 커다란 공을 세웠다.
994년(성종 13)에 태사(太師)로 추증되었고, 태조 묘정에 배향되었다. 시호는 충절(忠節)이다.