본관은 선주(善州: 지금의 경상북도 구미). 아버지는 동지밀직사사(同知密直司事) 김달상(金達祥)이다.
과거에 급제한 뒤 공민왕 때에 여러 벼슬을 거쳐 성균좨주(成均祭酒)에 이르렀다.
1363년(공민왕 12) 공민왕을 암살하려고 한 이른바 ‘흥왕사(興王寺)의 변’에서 왕을 구제한 공으로 2등공신에 봉해졌다.
일찍이 형 김군정(金君鼎)의 애첩을 간통하였고, 원수(元帥) 이방실(李芳實)이 피살되자 그의 부하 임영화(林永和) 형제를 살해하고 가산을 빼앗았으며, 절친한 사이였던 박우(朴瑀)의 처, 그리고 재상 김굉(金鋐)의 첩을 간통하는 등 몹쓸 일을 저지르자 아버지와 형까지 김문현을 경계하여 아버지 김달상이 신돈(辛旽)에게 김문현을 외지로 보낼 것을 청하였다고 한다.
그러나 이에 원한을 품고 오히려 신돈에게 붙어서 아버지와 형을 무고하여 죽였다. 1372년 신돈이 제거되자 간관들이 김문현의 처단을 상소하고, 또한 헌부(憲府)에서도 이를 계속 주청하자 도망하였다가 1378년(우왕 4)에 체포되어 전의현(全義縣)으로 귀양갔으며, 1388년에 이산영(伊山營)에서 교살되었다.