본관은 수안(遂安). 평안북도 선천(宣川) 출신. 아버지는 항교(恒敎), 어머니는 죽산 박씨(竹山朴氏)이며, 1남 3녀 중 장남이다. 대지주 집안에서 태어나 신학문을 반대하는 할아버지 밑에서 한문을 수학하였다. 향리의 삼봉공립보통학교에 다닐 때 순흥 안씨(順興安氏) 안정옥과 혼인하였다.
졸업 후 몰래 상경하여 1921년 중동학교, 1922년 휘문고등보통학교에 잠깐씩 다녔으나, 그때마다 할아버지에 의하여 귀향하여야만 하였다. 약 4년 동안 고향에서 홀로 외국문학서적을 탐독하다가 일본으로 건너가 도요대학[東洋大學]에서 수학하였으나, 가산의 파산으로 1931년 귀국하였으며, 그 뒤 조선일보사 등에서 근무하였다.
1945년 정비석(鄭飛石)과 함께 잡지 『대조(大潮)』를 발행하였고, 1948년 김억(金億)과 함께 출판사 수선사(首善社)를 창립하기도 하였으나, 대체로 성실한 작가생활로 생애를 보냈다. 1925년 5월 『조선문단』 제8호에 단편 「상환(相換)」으로 등단한 이래 40여 편의 단편을 남겼다. 그의 문학은 발표시기에 따라 대체로 3기로 구별된다.
「최서방」(1927) · 「인두지주(人頭蜘蛛)」(1928)로 대표되는 첫 시기는 지주와 소작인의 갈등을 그렸다는 점에서 대체로 경향파적이라고 평가되기도 하지만, 적극적인 투쟁의식이 없다는 점과 이후의 다른 작품들과 결부하여볼 때 다만 고통받는 서민에 대한 따뜻한 관심이 반영된 작품들이라고 보는 것이 타당하다.
두 번째 시기는 몇 년의 침묵 끝에 1935년 『조선문단』 제4권 제3호에 「백치(白痴)아다다」를 발표하면서 시작된다. 이 시기가 그의 황금기라고 할 수 있는데, 초기의 미숙함에서 벗어난 세련된 문장기교로써 그의 문학적 특징을 잘 보여주고 있다. 「장벽(障壁)」(1935) · 「병풍에 그린 닭이」(1939) · 「청춘도(靑春圖)」(1938) · 「신기루(蜃氣樓)」(1940) 등이 이에 해당된다.
이 작품들의 주인공들은 선량한 사람이지만, 주위의 편견이나 억압, 자신의 무지로 인하여 불행 속을 헤매거나 패배자적인 처지에 처할 뿐, 아무런 해결책도 가지지 못하는 소극적인 인물이다. 이러한 경향은 작중세계에 적극적으로 뛰어들지 않고 관조적인 자세를 유지하는 계용묵 문학의 특징이자 한계점이라 할 수 있다.
광복 후 격동과 혼란 속을 살아가는 사람들의 이야기인 「별을 헨다」(1946) · 「바람은 그냥 불고」(1947) 등 세 번째 시기의 작품에서도 그는 현실인식의 소극성을 크게 뛰어넘지는 못하였다. 결국, 그의 소설은 1930년대 한국문학의 언어적 미감을 세련시키고 단편양식에 대한 관심을 확장시켰다는 점에서 문학사적 의의를 지니지만, 적극적인 현실감각 및 역사의식의 부재, 서민에 대한 관조적 시선이 빚은 현실감 결여라는 문제점이 지적된다.
작품집으로 단편집 『병풍에 그린 닭이』 · 『백치아다다』 · 『별을 헨다』 외에 한 권의 수필집 『상아탑(象牙塔)』 등이 있다.