본관은 청주. 무예가 뛰어난 무인으로서 내금위(內禁衛)의 무사로 발탁되었으나, 유명하게 된 것은 단종대에 수양대군에게 발탁되면서부터였다. 당시에 수양대군은 상당한 수의 무사들을 불러모았는데, 양정도 한명회(韓明澮)의 주선으로 수양대군의 진영에 가담하였다.
수양대군이 당시의 집정대신이며 반대파였던 김종서(金宗瑞)·황보 인(皇甫仁) 등을 죽이고 정권을 잡을 때, 적극적으로 그 일에 관여한 공로로 정난공신(靖難功臣) 2등에 책록되고 청원군(淸原君)에 봉해졌다. 세조가 즉위하자 좌익공신(佐翼功臣) 2등에 책록되고 양산군(楊山君)에 봉하여졌다.
이 후 공조판서·지중추원사 등 중앙의 주요직을 역임하기도 하였으나, 주로 함경도·평안도 등 북방의 변경지대에서 근무하였다. 판경성부사를 거쳐, 1461년(세조 7)에는 함길도·평안도의 도체찰사, 1463년에는 평안도도절제사 겸 영변부사 등을 역임하였다.
양정은 오랫동안 북방의 변경지대에서만 근무하였다는 것에 대하여 커다란 불만을 가지고 있었다. 1466년에 중앙에 소환되어 세조가 북방에서 오래 근무한 일로 위로연을 베풀었는데, 이 자리에서 왕위를 선위(禪位)하라고 세조에게 진언하였다.
이 일로 인하여 처형되고, 아들들은 성주의 관노가 되었다. 당시의 사관은 이러한 언동이 기록된 『세조실록』에서, 양정이 훈구대신임에도 불구하고 변방에서만 근무하였다는 것에 대하여 평소에 불만을 가지고 있었기 때문에 이러한 언동을 한 것이라고 말하고 있다.