태종무열왕의 8세손이고 할아버지는 이찬(伊飡) 김주원(金周元)이며, 아버지는 소판(蘇判) 김종기(金宗基), 아들은 김양(金陽)이며, 김장(金璋, 金璋如)과 형제간이다. 관등은 파진찬(波珍飡)에 이르렀다.
『삼국사기(三國史記)』 김양전(金陽傳)에 의하면 김주원·김종기·김정여가 대대로 장상(將相)이 되었다고 하였으므로, 김정여가 시중을 비롯한 관직을 역임했을 것으로 추정되고 있다.
그러나 그의 시중 재직 연한과 관직 등은 확실하지 않다. 한편, 원성왕계의 왕위 독점에 저항한 김헌창(金憲昌: 김정여의 작은아버지)의 난이 진압된 뒤 자기 편당 239인이 죽음을 당하였는데, 김정여의 아들 양이 후대에 활동한 사실로 미루어볼 때, 김헌창과 정치적 노선을 달리했음을 알 수 있다. 김주원의 장손으로 명원공(溟原公)에 책봉되었다.