전라남도 장성 출신. 본관은 울산(蔚山). 자는 후지(厚之), 호는 하서(河西) · 담재(湛齋). 아버지는 참봉 김령(金齡)이며, 어머니는 옥천 조씨(玉川趙氏)이다.
1519년(중종 14) 김안국(金安國)에게서 『소학』을 배웠다. 1531년 사마시에 합격하고 성균관에 입학하였으며, 이때 이황(李滉)과 교우 관계를 맺고 함께 학문을 닦았다.
1540년 별시문과에 병과로 급제하여 권지승문원부정자(權知承文院副正字)에 임용되었으며, 이듬 해 호당(湖堂)에 들어가 사가독서(賜暇讀書: 휴가를 얻어 독서에 전념)하고, 홍문관저작(弘文館著作)이 되었다.
1543년 홍문관박사 겸 세자시강원설서 · 홍문관부수찬이 되어 세자를 보필하고 가르치는 직임을 맡았다. 또한 기묘사화 때 죽임을 당한 제현(諸賢)의 원한을 개진하여 문신으로서 본분을 수행하였다. 그 해 부모의 봉양을 위해 옥과현감(玉果縣監)으로 나갔다.
1544년(중종 39) 중종이 죽자 제술관(製述官)으로 서울에 올라왔으나, 1545년(인종 1) 인종이 죽고 곧이어 을사사화가 일어나자, 병을 이유로 고향인 장성에 돌아가 성리학 연구에 전념하였다. 그 뒤 1554년까지 성균관전적 · 공조정랑 · 홍문관교리 · 성균관직강 등에 제수되었으나 사직하고 나아가지 않았다.
김인후의 성리학 이론은 유학사에서 중요한 위치를 차지한다. 김인후는 당시 이항(李恒)과 기대승(奇大升) 사이에 논란이 되었던 태극음양설(太極陰陽說)에 대하여, 이기(理氣)는 혼합되어 있으므로 태극이 음양을 떠나서 존재한다고 할 수는 없지만 도(道)와 기(器)의 구분은 분명하므로 태극과 음양은 일물(一物)이라고 할 수는 없다고 주장함으로써, 이항의 태극음양일물설(太極陰陽一物說)을 반대한 기대승에 동조하였다. 또한 인심(人心)과 도심(道心)은 모두 그 동처(動處)를 두고 이른 말임을 주장함으로써, 후일 기대승의 주정설(主情說) 형성에 깊은 영향을 미쳤다.
김인후는 수양론에 있어서는 성경(誠敬)을 주된 목표로 삼았다. 노수신(盧守愼)과 함께 숙흥야매잠해(夙興夜寐箴解)를 논한 내용을 보면, 마음이 일신을 주재한다는 노수신의 설을 비판하고, 마음이 일신을 주재하지만 기(氣)가 섞여서 마음을 밖으로 잃게 되면 주재자를 잃게 되므로, 경(敬)으로써 이를 바르게 해야 다시금 마음이 일신을 주재할 수 있게 된다는 주경설(主敬說)을 주장하였다.
김인후는 천문 · 지리 · 의약 · 산수 · 율력(律曆)에도 정통하였다. 제자로는 정철(鄭澈) · 변성온(卞成溫) · 기효간(奇孝諫) · 조희문(趙希文) · 오건(吳健) 등이 있다.
시문에 능해 10여 권의 시문집을 남겼으나 도학에 관한 저술은 많지 않다. 저서로는 『하서집(河西集)』 · 『주역관상편(周易觀象篇)』 · 『서명사천도(西銘事天圖)』 · 『백련초해(百聯抄解)』 등이 있다.