본명 김교중(金敎重). 개명은 김소운(金素雲). 호는 소운(巢雲), 필명은 삼오당(三誤堂). 부산 출신.
1919년 옥성보통학교 4년을 중퇴하고 1920년 일본으로 건너가 동경 가이세이중학교[開成中學校] 야간부에 입학하였다가, 1923년 관동대지진으로 중퇴하였다.
1929년에는 매일신보 학예부원으로 근무했으며, 1931년 다시 일본으로 건너가기까지 아동교육기관을 경영하여 청소년 교육에 힘썼다. 1948년에는 주간지 『청려(靑驢)』를 발행, 발매금지를 당하기도 하였다.
1952년에는 베네치아 국제예술가회의에 한국 대표로 참석한 바 있고, 그 뒤 일본에 체류하는 동안 1956년『코리안 라이브러리』를 발행, 주재하기도 했다.
그의 작품 활동은 1923년『시대일보(時代日報)』에 시 「신조(信條)」를 발표하면서부터 시작되었고, 1925년에는 첫 시집 『출범(出帆)』을 간행하려다가 인쇄비 미납으로 이루지 못하였다.
그의 활동분야는 상당히 다방면에 걸쳐 있는데, 그 가운데서도 가장 중요한 것은 일본에 한국 문학을 번역 소개한 것이다.
1927년 『조선의 농민가요』를 일본의 『지상낙원(地上樂園)』지에 번역, 소개하면서 시작된 그의 한국 문학 번역 작업은 민요·동요·동화·현대시·사화(史話) 등 여러 부분에 걸쳐 폭넓게 이루어졌다.
그 가운데 중요한 것으로는 『조선구전민요집(朝鮮口傳民謠集)』(1933)·『조선동요선(朝鮮童謠選)』(1933) 및 『조선민요집(朝鮮民謠集)』(1941)과 일본어 번역시집으로 『유색(乳色)의 운(雲)』(1941), 한국의 시를 일문으로 번역한 『조선시집(朝鮮詩集)』(1943) 등을 들 수 있다.
이들 모두가 좋은 번역으로, 한국 문학의 바른 모습을 일본인들에게 알리는 데 크게 공헌하였다. 특히, 3년여의 편집과 번역 끝에 완수하여 한국과 일본에서 공동 출판한 『한국현대문학선집(韓國現代文學選集)』(1976) 전 5권은 이 방면의 그의 업적을 총결산한 것이라고 할 수 있다.
또한 그는 한국 수필문학사에서 현대를 대표하는 중요한 수필가 가운데 한 사람으로 꼽히고 있다. 첫 수필집 『마이동풍첩(馬耳東風帖)』(1952)을 낸 뒤부터 『목근통신(木槿通信)』(1952)·『삼오당잡필(三誤堂雜筆)』(1955) 등 8권의 수필집과 『은수삼십년(恩讐三十年)』(1954) 등 3권의 일문(日文)으로 된 수필집을 내기도 했다.
1978년, 그 동안의 수필을 총 정리한 『김소운수필전집』 전5권을 간행하였다. 그의 수필은 유려한 필치로 사회와 인생의 문제를 다각적으로 분석하는 것을 특징으로 하고 있다.
자의 또는 타의에 의하여 34년간 일본에 체류하였던 경험을 바탕으로 일본과의 관계를 다룬 글들이 많은 것도 그의 문학 활동의 큰 특징이다. 단순하게 반일이나 친일의 입장을 떠나서 객관적으로 일본을 바로 알고 그들의 장점을 배우자는 처지를 분명히 하고 있다.
또한, 일본인들의 한국에 대한 이유 없는 멸시에 대해서 강력한 항의나 분노를 표시하고 있는데, 특히 그 가운데에서도 일본인에게 보내는 공개장의 형식으로 쓰여진 장편수필 「목근통신」은 『대한일보(大韓日報)』에 연재된 뒤(1951) 일본의 저명한 소설가 가와바타[川端康成]의 소개로 『중앙공론(中央公論)』지에 번역, 소개되어 일본 사회에 큰 반향을 불러일으키기도 하였다.
1977년에 한국번역문학상을 수상한 바 있다. 기타 저서로는 수필집 『희망은 아직 버릴 수 없다』(1964)·『물 한 그릇의 행복』(1968), 동화집 『보리알 한톨』(1952) 등이 있고, 편저로는 『한일사전』(1968)이 있다.