동주(洞州: 지금의 황해도 서흥) 사람이며, 아버지는 대광(大匡) 김행파(金行波)이다. 김씨성은 태조가 내린 것이다. 태조는 고도(古都) 평양이 황폐화하여 여진인(女眞人)들의 수렵장이 되자, 여기에 백성들을 옮겨 살게 하고 대도호부(大都護府)를 설치하였다가 다시 서경(西京)으로 승격시켰으며, 922년(태조 5)에는 김행파를 비롯한 양반자제를 이주하게 하여 이곳 백성들을 지도하도록 하였다.
그 뒤 태조는 여러 차례 서경에 행차하였는데, 한번은 김행파가 무리를 거느리고 길에 나와 태조를 뵙고 자기 집에 가서 유숙하기를 청하여, 자기의 두 딸로써 각각 하룻밤씩 태조를 모시게 하였다. 이후 태조가 서경행차를 하지 않자, 자매는 정절을 지키며 머리를 깎고 절로 들어가 승려가 되었는데, 소식을 들은 태조는 이를 불쌍히 여겨 위로하였다.
서경에 명하여 성 안에 대서원(大西院)과 소서원(小西院)의 두 사원을 지어 전민(田民)을 두고 각각 살게 하였으므로 사원의 이름을 따서 소서원부인(小西院夫人)이라 부르게 된 것이다. 고려 태조의 혼인이 지방세력가의 요청에 의하여 맺어지기도 하였음을 알 수 있는 대표적 사례이다.