1061년(문종 15)에 태자우서자(太子右庶子)가 되었다가 곧 병부상서(兵部尙書)로 승진하였다.
1067년 병부상서로 있을 때 흥왕사(興王寺)가 12년 동안의 역사 끝에 완공되어 왕이 낙성재(落成齋)를 베풀고자 하였는데, 각 지방의 승려들이 수없이 몰려들었으므로 김양은 왕명을 받들어 우가승록(右街僧錄) 도원(道元) 등과 함께 계행(戒行)이 있는 자 1천명만을 참석하게 하고, 이들을 그 절에 상주시켰다. 그 뒤 1072년에 공부상서(工部尙書)가 되었고, 1075년에 상서우복야(尙書右僕射)에 제수되었다.