유금필의 부모와 조상에 대해서는 자세히 알 수 없다. 아들로는 유긍(庾兢)·유관(庾官)·유유(庾儒)·유경(庾慶) 등이 있으며, 딸로는 태조(太祖) 왕건의 제9비인 동양원부인(東陽院夫人)이 있다.
그는 태조 왕건이 고려를 건국한 직후에 마군장군(馬軍將軍)으로서 청주 세력의 모반을 저지하고 개국공신이 되었고, 거듭 승진하여 대광(大匡)이 되었다. 920년(태조 3) 3월 북계(北界)의 골암진(鶻巖鎭)이 거듭 북적(北狄)에게 침략당하자, 개정군(開定軍) 3,000여 명을 거느리고 가서 골암진의 동산(東山)에 큰 성을 쌓고 북번(北蕃)의 추장 300인을 복종시켰다. 이때 귀부(歸附)한 자가 1,500명이었고, 사로잡혔다가 돌려받은 우리 백성도 3,000여 명이었다.
925년(태조 8) 정서대장군(征西大將軍)이 되어 후백제(後百濟)의 연산진(燕山鎭)을 공격하여 장군 길환(吉奐)을 죽이고, 같은 해 10월 임존군(任存郡: 현, 충청남도 예산군 대흥면)을 공격해 군사 3,000여 명을 베었다. 뒤이어 조물성전투(曹物城戰鬪)에서도 태조를 도우면서 견훤(甄萱)과의 협상을 중지하도록 요청하였다.
928년(태조 11)에는 탕정군(湯井郡: 현, 충청남도 아산시)에 성을 쌓고 있다가 후백제 군사가 청주에서 태조를 공격하자 군사를 보내어 이를 쳐부수었고, 독기진(禿歧鎭)까지 추격해 300여 명을 죽이고 포획하였다.
929년(태조 12)에는 견훤이 고창군(古昌郡: 현, 경상북도 안동시)을 포위·공격하자, 그가 태조를 구하기 위해 예안진(禮安鎭)까지 쫓아가서 저수봉(猪首峯)에서 큰 승리를 거두었다.
또한 그는 931년(태조 14) 참소를 입어 곡도(鵠島)로 귀양을 갔지만, 이듬해에 후백제의 해군(海軍) 장수 상애(尙哀) 등이 대우도(大牛島)를 공격하여 약탈하자 곡도와 포을도(包乙島)에서 장정들을 모아서 군대를 조직하고 전함(戰艦)을 수리해 방어하였다. 이에 태조가 감동해 다시 불러들여 중용하였다.
932년(태조 15)에는 정남대장군(征南大將軍)이 되어 의성부(義城府)를 지키다가 태조의 명을 받들어 장사(壯士) 80인을 거느리고 사탄(槎灘)으로 달려가서 후백제 총군(統軍) 신검(神劒)의 군대를 격파하고 신라를 구원하였다. 회군하는 길에 자도(子道)에서 다시 신검의 군대를 만나서 크게 승리하였다. 이때 후백제의 장군 금달(今達)·환궁(奐弓) 등 7인을 사로잡고 많은 사람들을 죽이고 포획하였다.
934년(태조 17)에는 태조가 운주(運州: 현, 충청남도 홍성군)를 칠 때 유금필은 우장군(右將軍)이 되어 수천 명을 거느리고 돌격해 3,000여 명을 살획하였으며, 술사 종훈(宗訓)과 의사 훈겸(訓謙), 용장 상달(尙達)·최필(崔弼) 등을 사로잡았다. 이를 계기로 웅진(熊津: 현, 충청남도 공주시) 이북의 30여 성이 고려에 항복하게 하였다.
935년(태조 18)에는 도통대장군(都統大將軍)이 되어 후백제의 침략으로 6년 동안 막혀 있었던 나주(羅州)를 경략하고 돌아왔다. 이때 후백제에서 아들 신검에 의해 쫓겨난 견훤이 나주로 달아나 고려에 귀부하기를 청하자, 대광(大匡) 만세(萬歲)와 원보(元甫) 향예(香乂) 등과 함께 다시 나주로 가서 견훤을 바닷길로 맞이해 왔다.
또한 936년(태조 19)에는 고려가 후백제와 마지막 결전을 벌인 일리천전투(一利川戰鬪)에서 그는 원윤 관무(官茂)·관헌(官憲) 등과 함께 흑수(黑水)·달고(達姑)·철륵(鐵勒) 등 여러 번(蕃)의 정예 기병 9,500명을 거느리고 출전하여 중군(中軍)의 장수로 활약하면서 후삼국 통일에 커다란 공을 세웠다.
유금필은 941년(태조 24) 4월에 세상을 떠났는데, 그는 생전에 이미 개국공신으로 책봉 받았고, 사후에 충절(忠節)이라는 시호를 받았다. 994년(성종 13)에는 태사(太師)로 추증되었고 태조의 묘정(廟庭)에 배향되었다. 또한 그는 후손인 유자우(庾自㥥)의 묘지명에 따르면 고려 왕실에 의해 제5호기위(第五虎騎尉), 삼중대광(三重大匡), 장위익대광위협보좌성저정공신(壯威翼戴匡衛協輔佐聖底定功臣) 등에 추증되었다. 조선에서도 경기도 연천군 미산면에 숭의전(崇義殿)을 세우면서 배신청에 고려의 충신 16명 가운데 1명으로 배향하였으며, 황해도 평산군의 태백산성에 세워진 태사사(太師祠)에서도 신숭겸(申崇謙)· 배현경(裵玄慶)· 복지겸(卜智謙) 등과 함께 그의 철상(鐵像)이 봉안되었다. 충청남도 부여 지역에도 그를 모시는 사당으로 ‘유태사묘’와 ‘태사각’이 세워졌다.