본명은 김광남(金光南). 본관은 경주(慶州). 전라남도 진도 출생. 1960년 경복고등학교를 거쳐 1964년 서울대학교 문리과대학 불문학과, 1967년 동대학원 불문학과를 졸업하였다.
1990년 죽기 전까지 서울대학교 불문과 교수를 지냈다. 대학 재학 중인 1962년 『자유문학(自由文學)』에 평론 「나르시스의 시론(詩論)」을 발표함으로써 평론 분야의 활동을 시작하였다.
그 뒤 『산문시대(散文時代)』·『사계(四季)』·『68문학』·『문학(文學)과 지성(知性)』 등의 동인으로 활동하면서 본격적인 평론 활동을 전개하였다. 『존재와 언어』(1967)·『상상력과 인간』(1973)·『사회와 윤리』(1974)·『문학과 유토피아』(1980)·『젊은 시인들의 상상세계』(1984)·『책읽기의 괴로움』(1984)·『분석과 해석』(1988)·『말들의 풍경』(1990) 등 8권의 평론집이 있다.
그리고 『한국문학사』(1973)·『한국문학의 위상』(1977)에서부터 『르네 지라르 혹은 폭력의 구조』(1987)·『시칠리아의 암소: 미셸 푸코 연구』(1990)에 이르는 많은 한국 문학과 불문학에 관한 저작을 남겼다.
8권의 평론집이 보여주듯이 비평 분야에서 여러 가지 선구적 업적을 남겼으며 많은 이론적 틀을 마련하였다. 특히, 그의 작품 읽기는 작품의 의미와 독자의 개성 있는 만남에서 이루어진다. 그래서 그는 작품이 환기하는 이미지와 상상력의 역동성에 주목하고 리듬과 의미를 분석하는데 그의 비평안은 움직인다.
한국 문학과 외국 문학연구 또한 시간적으로는 향가에서 포스트모더니즘에 이르고, 공간적으로는 바슈라르(Bachelard, G.)에서 푸코(Faucault, M.)에 이르는 문학적, 이론적 지평과 맞물려 있다. 특히, 그에게 있어서 외국 문학의 연구가 한국 문학연구를 위한 의도적인 작업임이 강조된다.
한국 문학의 흐름과 그 좌표를 체계화한 『한국문학사』·『한국문학의 위상』으로 이어지는 일련의 작업과 사르트르(Sartre, J. P.)·아도르노(Adorno, T.)·바르트(Barthes, R.), 제네바학파, 푸코 등에 이르는 일련의 수용은 결국 따로 난 둘이 아니라 하나인 셈이다.
1980년 광주의 봄 이후 당시 문학적 분출에 대한 이해가 지라르(Girard, R.)와 푸코와의 대화 속에서 이루어진 것이 바로 그것이다.
그밖에 『프랑스 비평사』(文學과 知性, 1981)·『문학사회학』(민음사, 1982) 등의 저서가 있다. 1993년 그의 3주기를 맞아 문학과 지성사에서 그동안 나온 저서와 사후에 출간된 독서 일기집 『행복한 책읽기』 등을 한데 묶은 『김현문학전집』(전16권)이 나왔다.
1980년 현대문학상(현대문학사), 1990년 팔봉문학상(한국일보사)을 받았다.