「옥난기연」은 현재까지 한글 필사본 4종의 이본이 전해지고 있다.
첫째, 가장 먼저 학계에 알려진 낙선재본이다. 낙선재본은 전체 19권 중 1권~5권까지가 누락된 낙질(落帙)로 한국학중앙연구원에 소장되어 있다. 궁체 행서체로 필사되어 있는데 필사 시기는 알 수 없다. 낙선재본 「옥난기연」 권18에 줄이 비어 있는 낙줄이 있고, 권19에는 몇 장이 빠진 낙장(落張)이 있으며, 동일 단락을 중복 필사한 부분이 있는 것으로 보아 필사의 저본이 있었음을 알 수 있다.
둘째, 하버드대학교 연경도서관 소장본이다. 연경도서관 소장본은 7권 7책의 완질로, '륭희 연월일 경슈표교 신소져 필셔'와 같이 융희 연간에 신 소저가 필사하였다는 필사기가 각권 말미에 기록되어 있다.
셋째, 순천시립 뿌리깊은나무박물관 소장본이다. 이 이본은 23권 한 책만이 존재하며, 총 권책의 수는 확인되지 않는다.
넷째, 단국대학교 율곡도서관 소장본이다. 이 이본은 20권 한 책만이 남아 있으며, 이본 중 유일하게 「옥연재합」의 제명(題名)과 관련된 ‘옥연’ 장면이 있다.
낙선재본의 권19 말미에는 이 소설의 작가로 작중 인물들과 같은 집안인 ‘장사성’을 언급하였으나 허구이다. 또한, 「옥난기연」과 관련이 있는 작품으로 「위왕별전」과 「재합록」이 있다고 하였다.
“댱문(張門) 영홰(榮華) 졔미(齊美)한 고로 그 만한 바 민멸키 앗가올새 오공(五公)의 댱자셩이 문뮈(文武) 겸전(兼全)하고 의논이 명쾌하며 또 신상셔(진尙書)로 더브러 댱부(張府) 사젹을 낫낫치 일긔하여 위왕별전 재합녹을 번역하여 원양등의 셜화를 긔록하여 써 셰상의 기리 젼하니라."
여기에서 「재합록」은 「옥연재합」이라고도 하며, 작중 인물인 장추성(위헌왕)의 아들 원양(원량)이 인연을 맺어가는 이야기를 내용으로 하여 집필되었거나 집필될 예정이었던 소설이다. 따라서, 이 「재합록」은 「옥원재합기연」(온양정씨 필사 서울대 소장본)과는 별개의 작품인 듯하다. 낙선재본 「옥난기연」의 권6에는 안쪽 제목 다음 줄에 ‘송암선생자녀별전’이라는 소제목이 붙어 있어, 전체 소설은 권1∼5의 ‘송암선생본전’과 권6∼19의 ‘송암선생자녀별전’의 둘로 나누어져 있음을 알 수 있다.
이 작품의 내용은 다음과 같다. 장추성과 혼인을 약속한 소 소저에게 흑심을 품어 옥사를 일으켰던 조재악은 죄악이 드러나 귀양을 간다. 장추성은 이후 유람하다가 귀양지에서 경사로 돌아오던 중 권세가의 협박을 피하여 투신하였던 소 소저를 구한다(권6).
평후의 둘째 아들 현성은 단씨와 혼인하나 탐탁하게 여기지 않는다. 의지가 굳세고 강직한 소 소저는 부부 동침 후 분을 못 이겨 중병에 걸린다. 또, 평후의 딸 장 소저는 남편 임생을 받아들이지 않다가 두 기생의 모략으로 내쫓기나 이후 사실이 드러난다. 그러나 임생은 장 소저의 생사를 몰라 애태운다(권7).
장 소저가 장부에 돌아와 있었는데, 임생이 과오를 뉘우치자 평후는 장 소저를 시가로 보낸다. 장현성은 단씨의 시비 백앵을 겁탈하려고 협박하다 거부당하고, 질투심 강한 단씨는 소동을 일으킨다(권8).
백앵은 절도사 진가숙의 친딸 현주로, 유아 때 유괴되어 미천한 신분이 되었음이 밝혀진다. 진 소저는 그간의 오욕(汚辱)을 잊지 못하여 뒷마당에 있는 우물에 몸을 던진다(권9).
구원된 진 소저는 마음을 바꾼다. 무창을 위로하던 장추성은 남장한 순채희로부터 구혼의 편지를 받는다. 이때 소 소저는 태기가 있어 시부모의 명으로 후원 선유정에서 아들을 낳는다(권10).
장 소저는 평후의 명을 받들어 임생과 부부가 된다. 장추성은 선유정으로 가서 소정열 부인을 엄하게 꾸짖으나, 숙모 양 부인이 소씨가 죄가 없다는 것을 밝힌다. 한편, 순채희는 아버지를 설득하여 결국 장추성과 혼인한다. 장추성은 위왕의 반란을 진압하러 떠난다. 한편, 장사마의 맏딸 난주는 설시랑의 아들 경문과 혼인하나 시어머니 계씨는 까닭없이 부부를 미워한다(권11).
사마의 아들 효성은 오요주에게 마음을 두어 오다가 사마의 편지를 위조하여 몰래 혼례를 올리고 와서 사죄한다. 이때 구미호가 설공의 부인 계씨로 둔갑하여 설경문 부부를 괴롭히고 있었고, 계씨는 도월산의 여승 청원에게 도움을 받고 있었다(권12).
난주 소저는 구미호에게 납치되어 가다가 백영도사의 구원을 받고 진짜 계씨와 만난다. 한편, 효성이 잘못을 뉘우치자 사마는 아들의 죄를 용서한다. 수찬 장현성과 진 소저는 혼인하여 화합하고 단씨도 개과한다(권13).
효성은 오 소저를 맞아 혼인한다. 한편, 여승 청원은 장추성을 유도하여 계씨와 만나게 한다. 이때 구미호는 나쁜 짓을 일삼고, 요술에 걸린 설시랑의 시신을 후원에 감춘다. 형부 차사가 계씨의 나쁜 짓을 자세히 조사하러 온 사이에 평후 등은 설시랑을 찾아낸다(권14).
계씨와 장 소저는 설부에 와 설경문과 다시 만난다. 장추성은 설 공을 소생시키고, 구미호를 잡아 화형시킨다. 그리고 소정열과 옛정을 잇는다. 이때 위달의 난이 있자 장추성은 진청운과 함께 병사를 데리고 가서 진압한다. 진청운이 적의 요술로 병이 들자, 진 소저 등이 와서 도와주고 장추성은 귀환한다(권15).
진청운의 부음이 들리자 장추성은 다시 가서 그를 살려서 데려온다. 장각노의 생일에 장추성은 위헌왕에 봉해진다. 사마의 둘째 아들 희성, 셋째 아들 계성이 각각 혼약한다. 이때 하간왕의 첩을 고르게 되는데, 황친(皇親)과 인연을 맺는 것을 꺼린 평후는 둘째 딸 월례의 단자(單子)를 들이지 않는다(권16).
계성이 왕씨의 사치를 꾸짖자 장모 유씨는 못마땅해한다. 입궐한 월례 소저는 하간왕의 첩으로 간택된다. 월례 소저는 호방한 하간왕과 화합하지 못하는데, 왕의 두 시녀가 둘 사이를 더욱 이간한다(권17).
궁 가까운 곳에서 수계하던 왕 소저는 유모를 통해 두 시녀가 왕비를 시해하려는 계획을 알아내고 음모를 분쇄한다. 왕비는 부부 복합하게 된다(권18).
장각노의 생일 잔치가 성대하게 열리고, 사마의 아들 계성과 유성이 과거에 급제한다. 유성은 혼인을 약속하고 계성은 장모로부터 사위 대접을 받는다. 사마의 둘째 딸 옥혜, 평후의 넷째 아들 기성이 각각 혼인을 하고, 평후의 여섯째 아들 복성, 셋째 딸 운혜, 일곱째 아들 필성도 혼인을 한다. 이후 평후와 사마의 모든 자손이 영화를 보고 번성한다(권19).
「옥난기연」은 송암(松巖)이라는 호를 가진 장자연의 7남 3녀와 그 아우의 6남 2녀가 각각 혼례하여 가문이 번창하게 된다는 내용으로, 가문소설의 유형에 속한다.
이 소설은 사실상 서로 독립된, 남녀가 인연을 맺는다는 이야기를 반복, 중첩하여 전개하고 있다. 남녀가 인연을 맺는 이 이야기가 이른바 혼사 장애를 모티프로 전개되는 ‘만남-고난과 갈등-혼인’의 구조를 띠지 아니하고, ‘혼인-부부 갈등-해소’의 구조를 띠고 있다는 점이 특징적이다.
따라서, 이 소설에는 부부 갈등과 화합의 여러 유형이 제시되고 있다. 그 중에서 덕행이 높은 부인이 호방한 남편을 받아들이지 않다가 마음을 고쳐 남편을 따르게 되는 과정이 가장 문제시되고 있다. 그 밖에 기생이나 종에 의한 본부인의 모략과 고난 극복의 과정도 문제시되었으나, 처첩 갈등이나 두 처 사이의 갈등은 전면에 다루어지지 않았다.
이 소설은 명나라의 영종(英宗)이 두 번째 왕위에 오른 이후의 시대(1457∼1463)를 배경으로 하고 있다. 역사적 현실과는 거의 무관한 이야기를 전개하고 있지만, ‘여중군자(女中君子)’의 이상을 실현하려던 조선 후기 사대부 여성들이 겪어야 하였던 현실적인 좌절과 부부 갈등의 참모습을 어느 정도 반영하고 있는 듯하다.
다만, 유사한 주제의 「옥원재합기연」 · 「옥원중회연」이 한쌍의 남녀 주인공의 부부 갈등에만 초점을 맞춤으로써 심리 묘사에 뛰어났던 것과는 대조적으로 갈등하는 부부의 심리 묘사가 불충분하다. 한편, 이 소설에는 구미호의 장난, 변신술, 예언, 몽점(夢占), 환생단(還生丹)과 같은 전기적(傳奇的) · 비합리적 요소도 상당히 이용되었다.
이 「옥난기연」은 「옥난기」와도 관련이 있다. 「옥난기」는 권20만 현전하는데, 권20의 일부는 「옥난기연」의 권16의 일부와 일치한다. 즉, 장추성이 사돈인 진청운을 소생시켜 돌아온 뒤 위헌왕에 봉하여지고 장각노의 생일 잔치가 성대히 거행된 일과, 장사마의 셋째 아들 계성이 왕현의 딸과 혼인하는 이야기는 「옥난기연」 권16과 「옥난기」 권20에 동일하게 나타나 있다. 그러나 「옥난기」 권20의 후반부는 하노공에 관한 소설 내용이 혼합되었다.
이 소설의 주제는 충, 효, 열과 같은 유교 이념의 강조와 가문 의식의 고취에 초점을 맞추고 있다고 논의되어 왔다. 그러나 최근의 연구는 위와 같은 특징 외에도 이 작품이 성폭력에 대해 달라진 시각을 지니고 있으며 앵혈을 통해 가부장적 남성의 권위주의를 풍자한 점 등은 여성에 대한 관심이 커졌음을 보여 준다고 평가하며, 하층 남녀의 애정담을 다루고, 하층 보조 인물의 역할 비중이 확대되었다는 점에서 하층민에 대한 관심 또한 증대되었다 평가하였다.