본관은 순흥(順興). 자는 백진(伯珍). 안인후(安仁厚)의 증손으로, 할아버지는 안성(安珹)이고, 아버지는 안순필(安順弼)이다. 어머니는 조강문(趙康門)의 딸이다. 좌의정을 지낸 안현(安玹)의 형이다.
1521년(중종 16) 별시문과에서 병과로 동생과 함께 급제하고, 예문관검열이 되었다. 그 뒤 벼슬이 올라 예조좌랑 · 장령(掌令)을 지냈다. 1539년 사헌부집의가 되어 소세양(蘇世讓)과 함께 당시 세도가인 윤임(尹任)을 탄핵하다가 오히려 미움을 사서, 1542년에 충주목사로 좌천되었다.
이 때 근검절약하며 당시 기근으로 어려워진 농촌사회를 안정시키고자 구황에 힘써 그 실적이 뛰어났다. 명종이 즉위하여 윤임 일파가 몰려나면서 발탁되었다. 1554년(명종 9) 청홍도관찰사를 역임하고, 이듬해 내직으로 옮겨 병조참의를 지냈다. 이어서 승정원으로 옮겨 국왕을 측근에서 보필하였으며, 1558년 다시 외직으로 나가서 전라도관찰사가 되어 민정을 잘 주관하였다.
그 뒤 형조참판을 거쳐 1560년 병조판서에 특채되어, 이후 오랫동안 국방을 주관하면서 병학(兵學)의 재능을 보였다. 양계(兩界)에 대한 국방을 강화하고자 진보(鎭堡)의 설치를 장려하였고, 남방 왜변에도 유의하여 대책을 수립하였다. 그 뒤 지중추부사에 이르렀다가 병사하였다. 사람됨이 근면성실하고 행정능력이 뛰어났으며, 특히 국방문제에 관심이 많았다.