본관은 경주(慶州). 자는 중임(仲任). 할아버지는 김치세(金致世)이고, 아버지는 직제학 김천령(金千齡)이며, 어머니는 부수(副守) 김정(金丁)의 딸이다. 종숙인 지평 김인령(金引齡)에게 입양되었다.
1515년(중종 10) 진사가 되고, 1528년 별시 문과에 장원으로 급제하여 세자시강원사서를 거쳐, 1531년에 홍문관수찬이 되어 당시 정권을 장악하고 있던 김안로(金安老)를 탄핵하였으나, 도리어 기묘사화를 일으킨 심정(沈貞)의 무리라고 탄핵당하여 삭직되었다.
그 뒤 1537년 김안로가 축출된 뒤 다시 서용되어 시독관·교리·홍문관부응교·사헌부장령·사간원사간·대사간 등을 역임하였다.
1543년에는 사은사, 그 이듬해에는 천추사로 파견되었고, 예조참판으로 『중종실록(中宗實錄)』의 편찬에 참여했으며, 강원도관찰사를 거쳐 동지중추부사로 재임 중 죽었다.
가문은 김천령·김만균·김경원(金慶元)의 3대가 모두 장원급제하였고, 둘째 아들 김명원(金明元)도 갑과 3인으로 급제하여 당시에 문명을 떨쳤다. 뒤에 영의정에 추증되었다.