조선 초기에는 군용·구명(救命)·연락·어채(漁採)·자염(煮鹽) 등 다방면으로 사용되었다. 그 종류도 대형군선에 싣고 다니며 구명정이나 연락정 구실을 하는 보다 작은 현거도선(懸居刀船)과 단독으로 행동하는 보다 큰 일반거도선이 있었는데, 그 중에는 무장한 것도 있었다.
세조 때 『경국대전』을 편찬하면서 규격이 통일된 대맹선(大猛船)·중맹선·소맹선 등 군선은 본래 조운에도 겸용하기 위한 것이기 때문에 선체가 둔중하고 속력이 느려 군선으로 쓰기가 어려우므로 무장한 거도선이 사용되는 일이 많았다. 중종 무렵에는 맹선은 모두 육지에 올려놓고 거도선만 사용하기도 하였다.
그러나 1555년(명종 10) 을묘왜변을 계기로 판옥선(板屋船)이 개발되자, 거도선은 한때 판옥선의 부속선으로 활용되다가 조선 후기에는 일부지역에서 군용보조선으로 쓰이게 되었는데, 『속대전』 병전(兵典)에는 경기에 3척, 황해도에 21척, 평안도에 1척 등 25척의 거도선이 배치되어 있었던 것으로 기록되어 있다.
조선 초기에 군선의 건조에 필요한 목재의 조수(條數)를 대선(大船) 235조, 중선(中船) 211조, 소선(小船) 114조로 정한 데 대하여, 거도선의 소요조수는 24조로 규정된 사실과, 조선 후기 『수군변통절목(水軍變通節目)』에서 거도선의 정원을 격군(格軍) 4인, 포수 1인 등 5인으로 정한 점으로 미루어, 거도선은 매우 작은 배임을 알 수 있다.
거도선에 대해 일부에서 일본의 전마선(傳馬船)을 모방하여 만든 해적을 쫓는 배라는 견해가 있으나 그것은 잘못이다. 일본에는 그러한 고선(古船)이 본래 없었다. 거도선은 조선시대에 독특하게 쓰인 우리 고유의 배이다.