평안북도 용천출생. 일본의 니혼대학[日本大學] 철학과를 졸업하였다. 1926년에는 용천에서 소작쟁의를 지도하였고, 1927년에는 일본 동경에서 학생독서회사건으로 피검되었다. 1928년 이후에는 주로 문학과 철학에 관련된 문화비평에 종사하였다.
광복 직후에는 조선문화건설중앙협의회에 참여하였고, 1945년 11월 15일에 건국동맹이 해소되고 결성된 여운형(呂運亨)의 조선인민당 선전부장을 맡아 활동하였으며, 1946년 2월 좌익세력의 집결체인 민주주의민족전선(약칭 民戰)의 상임위원 및 선전부장을 맡았고, 홍증식(洪增植)이 발행인으로 있는 『조선인민보(朝鮮人民報)』에 참여하였다.
1946년 9월 미군 축출을 선동하여 미군정포고령을 위반하였다는 이유로 『조선인민보』·『현대일보(現代日報)』·『중앙신문(中央新聞)』 등의 좌익신문에 대해 정간처분이 있을 때 체포되어 3개월간 복역하였으며, 복역중인 1946년 11월에 조선인민당의 합당파와 함께 조선공산당·남조선신민당의 3당이 합당하여 발족한 남조선노동당이 결성되자 중앙위원에 피선되었다.
1948년에는 월북하여 최고인민회의 대의원을 역임하였으나, 1953년 8월에 노동당중앙위원회에서 제명당하였다. 저서로는 광복 직후 좌익계 인물들에 대한 평론집인 『지도자론(指導者論)』과 『지도자군상(指導者群像)』 등이 있다.
문필활동은 동경에서 『대중지광』을 발간한 것이 시초이지만, 귀국 후 천도교 청년단과 조선농민사에 관계하다가 1936년「능동적 인간의 탐구」를 발표한 것이 본격적인 문학활동의 시작이다. 일제 말기 휴머니즘론과 세대론 등에서 두각을 나타냈다.
김오성은 1930년대 중반 백철(白鐵)과 함께 네오 휴머니즘을 주창하여 평단의 주목을 받았는데, 주로 휴머니즘론의 철학적 근거를 제시하는 데 힘썼다. 백철의 휴머니즘론이 무성격성, 무규정성을 강조한 것과 달리 새로운 인간 타입의 창조를 통한 행동적 휴머니즘을 제창한 것이 특징이다.
당시의 중요 평론으로서는 「네오휴마니즘론-그 근본적 성격과 창조의 정신」(조선일보, 1936.10.1∼9)·「네오휴맨이즘문제-그것을 위한 인간파악의 방법」(조광 14, 1936.12)·「능동적 인간의 탐구-철학과 문학의 접촉면」(조선일보,1936.2.23∼29)·「인간탐구의 현대적 의의」(조선일보, 1936.5.1∼9)·「휴머니즘문학의 정당적 발전을 위하여」(조광 20, 1937.6)·「지성의 패배와 그 재건」(조광, 1937∼38_)·「문학에 있어서 윤리와 논리」(동아일보, 1937.9.17∼25) 등이 있다.
1930년대 말기에 문단에서 김동리(金東里)·유진오(兪鎭午) 등의 세대논의가 펼쳐질 때 역시 그 철학적 배경을 모색하는 일에 참여하였고, 「신세대의 정신적 지표」(인문평론 5, 1940.2)·「신세대의 문제」(조광 54, 1940.4) 등의 무게 있는 평론을 발표하였다.
그러나 그는 지식과 세계관을 혐오하고 있는 신세대에 대하여 시대정신을 받아들이고 신질서의 건설노선으로 나아갈 것을 권유하는 이른바 ‘미래설’을 제시함으로써 신체제론에 영합하고 말았다. 「문화비평과 철학」(비판 63, 1938.7)·「지성인의 문제」(사해공론 41, 1938.9)·「시대와 지성의 갈등-프토데듀스적 사태」(조선일보, 1939.1)·「문화창조에의 지향-체계적 정신과 창조적 정신」(동아일보, 1939.12)·「문학정신의 전환, 새로운 인간형의 창조」(매일신보, 1940.11)·「원리의 전환」(인문평론 15, 1941.2) 등에서 그 정신적 궤적을 확인할 수 있다.
해방 이후에는 조선문학가동맹에 가입하고 「문학의 신세대」(1946)·「민주주의와 인민전선」(1946) 등의 평론을 쓰는 한편으로, 여운형(呂運亨)을 당수로 한 조선인민당의 선전부장으로서 인민당의 노선을 선전하는 글을 다수 발표했다.