본관은 청송(靑松). 심영택(沈永澤)의 아들로 심영택(沈英澤)에게 입양되었다. 이희천(李羲千)의 외손이다.
1864년(고종 1) 경과정시별시문과에 병과로 급제한 뒤 관직에 나갔다. 이듬해에는 권호연(權好淵)·이유승(李裕承)·엄세영(嚴世永) 등과 함께 주천(注薦)을 거쳤다. 1866년 역시 이유승·엄세영 등과 함께 본관록(本館錄)·도당록(都堂錄)을 거쳤다.
1869년 통례원의 좌통례(左通禮)를 지내고, 1880년에는 성균관대사성에 올랐다. 이듬해에는 사간원의 대사간이 되었고, 같은 해 9월에는 사헌부대사헌이었던 정건조(鄭建朝)와 서로 교체, 임명되어 대사헌의 직을 수행하였다.
임오군란이 일어난 1882년 6월 사간원대사간으로 다시 임명되어 임오군란에 관련된 옥사에 깊이 관여하게 되었다. 심상목은 여러 차례에 걸쳐 대사간의 직을 사양하고 물러나기를 청하였으나 고종은 허락하지 아니하였다. 1890년 다시 사간원대사간에 임명되어 간관으로서 소임을 다하였으며, 그 해 9월 예방승지의 직을 수행하였다.