본관은 동래(東萊). 자는 운경(雲卿), 호는 호음(湖陰). 아버지는 부사 정광보(鄭光輔)이다. 영의정 정광필(鄭光弼)의 조카이다.
1507년(중종 2)에 진사가 됐고, 1509년(중종 4) 별시문과에 병과 4위로 급제했다.
1514년(중종 9) 사가독서(賜暇讀書)하였고, 1516년(중종 11) 황해도도사로서 문과중시에 장원하였으며 사간을 거쳐 1523년(중종 17) 부제학이 되었다. 1534년(중종 29) 동지사(冬至使)로서 명나라에 다녀왔다. 1542년(중종 37) 예조판서로 승진이 되고, 1544년(중종 39) 공조판서로 다시 동지사가 되어 명나라에 다녀왔다.
1554년(명종 9) 대제학이 됐으나 1558년(명종 13) 과거의 시험문제를 응시자 신사헌(愼思獻)에게 누설하여 파직됐다. 같은 해 판중추부사(判中樞府事)로 복직되고 이어 공조판서가 됐다가, 1562년(명종 17) 다시 판중추부사에 전임됐다.
이듬해에 사화를 일으켰던 이량(李樑)의 일당으로 지목돼 삭탈관직 당했다.
그는 일찍이 중국에 사신으로 가서 문명을 떨쳤을 뿐만 아니라 중국 사신을 접대하는 동안 중국인과 주고받은 시가 많았다. 중국에 다녀와서 『조천록(朝天錄)』을 남겼다.
해동강서시파(海東江西詩派)의 일원으로 한시사에 족적을 남겼는데 말을 치밀하게 다듬어 웅걸차고 기이한 문구를 얻으려는 시풍을 장기로 삼았다. 노수신(盧守愼), 황정욱(黃廷彧)과 함께 ‘호소지(湖蘇芝)’, ‘관각삼걸(館閣三傑)’로 불린다. 정사룡(鄭士龍)의 시는 서곤체(西崑體)에 근원을 두었는데, 서곤체는 곧 만당(晩唐) 이상은(李商隱)의 시를 추숭하는 유파이다. 특히, 칠언율시에 뛰어나 당시 문단에서 그와 신광한(申光漢)을 한시의 쌍벽으로 꼽았다.
관료적인 시인으로 시문·음률에 뛰어났고 글씨에도 능했으나 탐학하다는 비난을 받았다.
저서로는 『호음잡고(湖陰雜稿)』·『조천록』 등이 있고, 글씨로는 광주(廣州)에 있는 이둔촌집비(李遁村集碑)가 있다.