본관은 이천(利川). 아버지 서신일(徐神逸)이 화살 맞은 사슴을 구해준 은덕으로 80세에 낳았다는 일화가 전한다. 아들 서희(徐熙), 손자 서눌(徐訥)이 모두 재상을 지냈다.
벼슬은 도필(刀筆)을 거쳐 내의령에 이르렀다. 가문의 배경에 대해서는 서로 상반된 견해가 있다. 먼저 개국공신이었다는 점에서 이천 지방에 상당한 세력을 지니고 있던 호족으로 보는 견해이다. 한편, 처음 관계에 진출할 때 도필로 나아갔다는 점에서 정계에 등장할 무렵에는 커다란 세력은 아니었을 것이라는 견해이다.
정치적 성격은 광종(光宗)의 정치개혁에 반대한 인물로 보는 견해와 친광종계 인물로 파악하는 의견이 있다. 전자에서는 쌍기(雙冀)와 같은 귀화 중국인들을 지나치게 우대하는 광종에 대해 직언과 간쟁(諫諍)을 서슴지 않았다는 사실들을 근거로 들고 있다. 즉, 훈신세력(勳臣勢力)의 입장에서 광종의 정책에 비판적이었다는 것이다.
그러나 서필의 건의나 직언이 받아들여질 만큼 두터운 신임을 받고 있었고, 내의령의 높은 관직에 중용(重用)되고 있었으며, 또한 임금과 신하는 구별되어야 한다는 뜻을 피력해 광종이 추진해 나가던 개혁이념에 부합되는 태도를 보이기도 하였다.
이렇게 비판적이었던 만큼 임금의 개혁의지를 지지하고 있었고, 이에 따라 높이 등용되고 있었다. 결국 서필은 개국공신이면서도 광종과 밀착되어 임금의 정치개혁을 지지해주고 있던 인물로 보여진다.
죽은 뒤 삼중대광 태사 내사령(三重大匡太師內史令)에 추증되었으며, 광종의 묘정에 배향되었다. 시호는 정민(貞敏)이다.