1789년(정조 13) 춘당대문과에 병과로 급제했고, 강제문신(講製文臣)에 선임되었다. 그리고 교서관정자(校書館正字) · 규장각대교(奎章閣待敎)로 관직 생활을 시작하였다. 1796년에 문체가 순수하고 바르지 못하다 하여 웅천현감(熊川縣監)에 외보되기도 하였다. 그러나 이는 심상규의 재주가 지나치게 나타나는 것을 걱정한 정조의 배려로서 후일 크게 쓸 재목을 만들려는 의도였다고 한다.
아버지 심염조에 이어 사명(賜名)을 받을 정도로 총애를 받았다. 정조가 죽은 뒤 신유년(1801) 정치 파동 때 채지영(蔡趾永) 등의 무고로 홍원(洪原) · 남원(南原)에 잠시 유배되기도 하였다. 1804년(순조 4) 안동 김씨 세도정권이 들어서자 『정조실록』 편수 당상관에 임명되었다. 이조 · 호조 · 형조 참판과 전라도 관찰사를 거쳐서 1809년 예조판서 · 홍문관직제학에 올랐다.
2년 뒤에는 병조판서로서 홍경래(洪景來)의 난을 수습하였다. 다음 해 성절사(聖節使)로서 연경(燕京)에 다녀왔고 1821년 대제학이 되었다. 그 뒤 예조 · 이조 · 공조 판서를 거치면서 궁방전(宮房田)의 면세지 5,000결을 감축하기도 하였다. 1825년 우의정이 되어 백성을 다스리는 방법으로서 기강과 풍속교정을 말하여 경장(更張)보다 운영의 측면을 강조하였다.
1827년 세자( 익종(翼宗)으로 추존됨.)의 대리청정시, 대사간 임존상(任存常)의 탄핵으로 면직되어 풍양조씨의 세도정치 기간 동안 장단에 퇴거하였다. 1832년 다시 우의정으로 기용되어 절검과 사치 금지 · 공시규제정책(貢市規制政策)을 시행하였다. 순조가 죽자 원상(院相: 국왕이 병이 나거나 어린 왕이 즉위하였을 때 원로대신이 승정원에 주재하면서 국정을 맡은 임시관직)으로서 헌종 초년의 정사를 관장하였다.
『순조실록』 편찬총재관을 지내고 정조 · 순조 · 익종의 어제(御製)를 찬진하였다. 평생을 김구주(金龜柱) 당여와 반대 입장을 지켰다.
어릴 때부터 뛰어난 재질을 보였는데, 시문의 내용이 깊고 치밀하여 18세에 이미 타인의 입에 오르내렸다고 한다. 문장은 간결하고 자연스러웠는데, 이는 아버지가 모은 수만 권의 장서를 어려서부터 즐겨 읽은 때문이라 한다.
이용후생(利用厚生)의 중요성을 강조하였으며, 백성의 생활 근본을 제작(製作)에 두어야 한다고 늘 말하였다. 『건릉지장속편(健陵誌狀續編)』을 편찬하였고, 해박한 지식으로 『만기요람(萬機要覽)』을 편찬, 국왕의 지침서가 되게 하였다. 저서로는 『두실존고(斗室存稿)』 16권이 전하며, 글씨로는 「경춘전기(京春殿記)」가 남아 있다.
시호는 문숙(文肅)이다.