과문은 고려와 조선시대 문과시에서 부과된 고시과목의 문체이다. 과문체, 과장문체, 공령문, 장옥문체라고도 한다. 고시과목은 시, 부, 송, 시무책, 책문, 예경, 논, 경의, 고부, 육경의, 사서의 등이다. 고려에서 조선시대에 이르도록 과문의 주종은 시·부·표·책·의(疑)·의(義)로서 흔히 ‘과문육체’라 한다. 과문은 시무와 관계되거나 특정한 형식을 요구하기 때문에, 과거를 보려는 유생들은 과문법을 익혀야만 했다. 과문은 한문학의 보급에 다소 기여한 점은 인정되나 순수문예의 발전에는 역기능적인 작용도 하였다.
우리나라 과거에는 고려 광종 때 시행된 과거제도가 조선시대까지 그 골격이 유지된 것이다. 본격적으로 과문에 의한 인재선발방식이라 하겠다.
이 때 중요시된 분야는 제술업(製述業, 또는 제술과)이다. 그 고시과목은 시(詩) · 부(賦)를 위시해서 송(頌) · 시무책(時務策) · 책문(策問) · 예경(禮經) · 논(論) · 경의(經義) · 고부(古賦) · 육경의(六經義) · 사서의(四書義) 등이다. 그 가운데 4과목을 3차에 걸쳐 고시한 것이다.
제술업의 고시과목 가운데 거의 출입이 없었던 것은 시와 부로서 과거에서 이 두 과목은 큰 비중을 차지하고 있었다. 조선조의 문과고시에도 이와 같은 성격은 그대로 계승되고 있다. 다만 고시의 절차와 과목이 조금 늘어났을 뿐이다. 5단계의 시험을 통과해야 하는 문과(혹은 大科) 고시과목은 조금씩 시대에 따라 변동이 있다.
고려에서 조선시대에 이르도록 과문의 주종은 시 · 부 · 표(表) · 책(策) · 의(疑) · 의(義)로서 흔히 ‘과문육체(科文六體)’라 부른다. 이 가운데 의(疑) · 의(義)는 경서에 대한 논문을 작성하는 것으로 특별한 정식(程式)이 요구되지 않는 고문체이다.
그러나 표 · 책 등은 주로 내용이 관각(館閣)에서 사용하는 시무(時務)에서 관련된 것이다. 일정한 정식이 요구되는 사륙변려문(四六騈儷文 : 半韻文)이었다. 시 · 부도 정통한문학과도 다르다. 중국에서도 찾아볼 수 없는 특수한 형태와 체재를 지녔다.
이러한 이유로 과거업(科擧業)에 종사하려는 유생들은 과문법을 익히지 않을 수 없었고, 그에 따라 수종의 과문초(科文抄)나 규식(規式)을 적은 필사본이 유행하게 된 것이다.
그 대표적인 예가 『동시(東詩)』 · 『동선(東選)』 등이다. 과문은 한문학의 보급에 다소 기여한 점은 인정된다. 그러나 이른바 순수문예의 발전에는 역기능적인 작용을 하였다. 또한, 사장학(詞章學)과 경학(經學)이 상호 대립하는 국면에서 종종 과문이 비판의 표적이 되고는 하였다.
고려조의 이제현(李齊賢)이 ‘조충전각(雕蟲篆刻)’하는 무리들이 많아지게 됨을 걱정하였던 까닭도, 부분적으로는 공령문(功令文)을 익혀 과거에 합격하기 위하여 골몰하였던 현실 때문이었을 것이다.
조선 초기 정도전(鄭道傳)이 사장(詞章)을 억누르는 과거제를 주장하여, 경서에 대한 의 · 의를 제술하기보다는 강론위주로 해야 한다 하였다. 변계량(卞季良)에 이르러 옛 과제(科制)로의 복귀가 주장되어 작문 중시의 과제로 굳어지게 되었다.
그래서 과시의 문체도 ‘장옥문체(場屋文體)’ 혹은 ‘과장문체(科場文體)’라 하여 순수 한문학의 문체와 구별하였다.
서거정(徐居正)은 과문체(科文體)가 한문학의 사조에 따라 평온(平穩) · 궤기(詭奇) · 부화(浮華)한 변화를 보였다고 지적하였다.
이와 같이 과문과 한문학은 서로 연관성을 내밀히 가지고 있었던 것이다. 그러나 과문은 어디까지나 순수한 한문학의 범주에서 수용할 수 없는 터였기에 문학성이 기대되기 어려웠고, 기교와 규식에 얽매인 공령문에 불과하였다.
이수광(李睟光)은 과문의 폐단 때문에 치용(致用)에 도움을 주는 문장을 짓기 위해서는 과문습기(科文習氣)를 버려야 함을 강조한 바 있다. 이익(李瀷)도 진정한 문장을 위해서는 과문이 쓸모없으며 해가 된다 하여 과문의 폐단을 지적하였다. 정약용(丁若鏞)도 세간에서 과문학습에만 열중한 나머지 정통한문학이 소외되고 있는 현실을 개탄한 바 있다.
과문은 사대부의 길을 가기 위해서는 첫번째 관문인 과거에 응시하지 않을 수 없었기에 쉽사리 무시될 수 없었다. 그 결과 과문을 통하여 문명을 얻은 사람도 적지 않았다.
이학규(李學逵)는 조선조 인물 가운데에 과시(科試)는 이서우(李瑞雨), 부는 정항령(鄭恒齡), 표 · 전은 임상덕(林象德) 등이 유감없이 실력을 발휘하였다. 작자 미상의 『지수염필(智水拈筆)』에 보면 부는 남옥(南玉), 표는 유동빈(柳東賓), 시는 강백(姜柏) · 채득순(蔡得淳) · 계덕해(桂德海) · 신광수(申光洙), 그리고 책(策)은 노긍(盧兢)이 유명하였던 것으로 기록되고 있다.
특히, 강백과 신광수는 과시체(科詩體)에 새로운 경지를 이룩한 이들로 「행시격(行詩格)」과 「관산융마(關山戎馬)」는 널리 알려진 작품이다.
과시는 7언 고풍(古風)과 유사하지만, 제목에서 한 자를 골라 통운(通韻)하고 ‘기두(起頭:첫구)’ · ‘입제(立題, 혹은 入題)’ · ‘포두(鋪頭)’ · ‘포서(鋪敍)’ · ‘초항(初項:첫목)’ · ‘회제(回題)’ 등의 차례로 시상을 전개해야 한다.
따라서 자연스러운 감정의 유로가 이루어지기 곤란한 형식이었다. 그럼에도 불구하고, 신광수는 자신의 시상 전개에 알맞은 형식으로 18운 36구의 정식을 깨고 22운 44구의 장형화된 과시체로 만들었다. 이것은 조선 후기 한시가 장편고시로 많이 지어진 것과 관련하여 흥미있는 현상이라 하겠다.
박지원(朴趾源)은 독특한 문체인 소품체(小品體)에 가까운 산문으로 「허생전(許生傳)」 등의 걸작을 남겼다. 과문에 대한 관심도 적지 않았던 것으로 보인다. 그의 문집에 수록된 「소단적치인(騷壇赤幟引)」이라는 글은 바로 과문을 잘 짓기 위한 요령의 병법을 응용하여 설명한 글이다.
실제 창작에 있어서도 실력을 나타내어 『과시(科詩)』와 같은 과시선집에도 그의 작품이 소개되고 있다. 그 밖에 과시로 유명한 이로는 이가환(李家煥) · 김병연(金炳淵) · 노진(盧稹) · 배극소(裵克紹) 등을 들 수 있다.
그런데 조선 말기에 가까이 오면서 과문만을 전공해서 매문(賣文) · 매필(賣筆)을 업으로 하는 자들도 많이 나타났다 한다. 물론, 이와 같은 현상은 과거제도의 말기적 증후에 부수되어 나온 것으로, 많은 종류의 과문집(科文集)의 편찬과 깊은 관계를 맺고 있다.