본관은 남양(南陽). 자는 가칙(可則). 아버지는 증 영중추부사 홍치(洪治)이다. 어려서부터 무예를 배워 일찍이 내금위에 선발되었다.
1452년(단종 즉위년) 의주도수군첨절제사 재직 중 영조하는 의주성 남문(南門)의 공사가 부진하다고 하여 파출(罷黜)되었다. 거경(居京) 중 한명회(韓明澮)와 시사(時事)를 논하면서 의기가 투합하였다. 1453년(단종 1) 무과에 급제하고 첨지중추부사가 되었다.
계유정난 때는 순장(巡將)으로서 휘하의 군사를 거느리고 수양대군을 도와 황보 인(皇甫仁)·김종서(金宗瑞)를 제거하고 그 공로로 수충위사협책정난공신(輸忠衛社協策靖難功臣) 1등에 책록되고 병조참의에 제수되었다. 1454년 가선대부(嘉善大夫)에 오르면서 병조참판이 되고 남양군(南陽君)에 봉호되었다.
1455년(세조 1) 9월 세조즉위에 끼친 공로로 다시 수충경절좌익공신(輸忠勁節佐翼功臣) 2등에 책록되고, 1456년 자헌대부(資憲大夫)에 오르면서 병조판서, 1458년 판중추사, 1459년 보국숭록대부영중추부사(輔國崇祿大夫領中樞府事)에 승진하면서 남양부원군(南陽府院君)으로 진봉되었다.
1464년 사옹원도제조(司饔院都提調) 재직 중 어선(御膳: 임금에게 올리는 음식)이 정결치 못하다고 문책되었으나 용서되고, 1467년(세조 13) 오위도총부도총관에 이어 좌의정으로 경상(卿相)의 자리에 올랐다.
1468년 장악원도제조를 겸하였다. 청렴한 성품과 절륜한 무예로 한명회와 함께 세조의 등위시 무장의 소임을 다하여 큰 공헌이 있었다. 시호는 안무(安武)이다.