본관은 안동(安東). 자는 명여(命汝). 할아버지는 김시술(金時述)이고, 아버지는 김헌행(金憲行)이며, 어머니는 윤지술(尹志述)의 딸이다. 초명은 김이영(金履永)이었으나 예종과 이름이 비슷하여 피휘(避諱: 임금의 이름을 피함)하기 위해 김이양이라 개명할 것을 청해 왕의 허락을 받았다.
1795년(정조 19) 생원으로 정시 문과에 을과로 급제하였으며, 1812년(순조 12) 함경도관찰사로 있으면서 그 지방의 기강확립에 힘쓰는 한편 고장주민들의 민생고 해결에 노력하였다.
또한, 이듬해에는 계문(啓文: 왕에게 드리는 형식을 갖춘 글)를 올려 변경지방 군사제도의 불합리성을 지적하여, 시정하도록 건의하는 동시에 어염선세(漁鹽船稅)와 둔전세(屯田稅) 및 마필(馬匹)의 헌납을 감면해주도록 주청하여 허락을 받았다.
이어서 함경도의 진환곡(賑還穀) 확보를 위하여 영남포항창(嶺南浦項倉)의 곡식 3만석을 이급(移給: 옮겨서 지급함)해주도록 주청하여 2만 3000석을 얻는 데 성공하는 등 치적을 남겼다. 1815년 차대(次對: 임금의 요청에 의한 임금과의 대좌)에서는 함경감사 때의 경험을 들어 국경지방 군사제도 개선을 주장, 허락을 받았다.
같은 해 예조판서와 이조판서를 지내고 이듬해 호조판서가 되어 토지측량의 실시와 세제 및 군제의 개혁, 화폐제도의 개선을 강력히 주장하였다. 1819년 홍문관제학(弘文館提學)이 되었고, 이듬해 판의금부사를 거쳐 좌참찬에 올랐다.
1844년(헌종 10)에는 만 90세가 되어 궤장(几杖)이 하사되었으며, 그 이듬해 봉조하(奉朝賀)로 있다가 죽었다. 영중추부사(領中樞府事)에 추증되었다.