경상북도 안동 출신. 본관은 한산(韓山). 자는 경문(景文), 호는 대산(大山). 아버지는 이태화(李泰和)이며, 어머니는 재령 이씨(載寧李氏)로 이현일(李玄逸)의 손녀이며 이재(李栽)의 딸이다.
1735년(영조 11) 사마시와 대과에 급제하여 가주서가 되었으나 곧 사직하고, 학문에 전념하였다. 1739년 연원찰방(連原察訪)에 임명되었으나, 이듬 해 9월 관직을 버리고 고향으로 돌아와 대산서당(大山書堂)을 짓고 제자 교육과 학문 연구에 힘썼다.
1753년 연일현감이 되어 민폐를 제거하고 교육을 진흥하는 데 진력하였다. 2년 2개월 만에 사직하려 하였으나 허락되지 않자, 그대로 벼슬을 버리고 돌아와 고신(告身: 직첩의 별칭)을 박탈당하였다. 그 이후로는 오직 학문에만 힘을 쏟아 사우들과 강론하고, 제자를 교육하는 데 전념하였다. 정조가 왕위에 오른 뒤 병조참지·예조참의 등에 임명되었으나 부임하지 않았다.
이상정은 이황(李滉) 이후 기호학파에 비해 상대적으로 침체된 영남학파에서 이황의 계승을 주창하고 일어난 이현일·이재로 이어진 영남 이학파의 중추적 인물이다. 이상정은 외할아버지 이재를 통해 영남 이학파의 학풍을 계승하는 한편, 그 근원이 되는 이황의 사상을 계승하고 정의하는 입장에서 사상적 터전을 마련하였다. 특히 이황의 존리적(尊理的)인 입장을 견지하면서 『독성학집요(讀聖學輯要)』 등의 저술을 통해 이기를 대등하게 보는 기호학파의 태도를 거부하였다.
한편 이황의 존리적인 태도를 하나의 이념으로 받아들여 일방적인 주리론을 펴는 것을 반대하고, 이(理)의 동정(動靜)과 이기(理氣)의 선후(先後) 등이 가지는 의미를 해명하고 본 뜻을 이해하는 것이 중요함을 강조하였다. 또한 성명이기(性命理氣)에 대한 논의보다는 덕성을 배양하는 일용궁행(日用躬行)의 실천적 공부에 치중해야 함을 강조하였고, 일용평상(日用平常)의 도리인 유학의 본지로 돌아가는 일을 몸소 실천하였다.
이상정의 학문적 흐름은 동생 이광정(李光靖)과 남한조(南漢朝)를 통해 유치명(柳致明)으로 이어지고, 이진상(李震相)에 이르러 유리론(唯理論)으로 전개되었으며, 조선 말기에 이르러서는 곽종석(郭鍾錫)으로 계승되었다.
이상정은 학문에 크게 힘써 문장·율려(律呂) 등 제도문물에 대하여 연구하고 경학에 침잠하였다. 저서 및 편저로는 『사례상변통고(四禮常變通攷)』·『약중편(約中編)』·『퇴도서절요(退陶書節要)』·『심동정도(心動靜圖)』·『이기휘편(理氣彙編)』·『경재잠집설(敬齋箴集說)』·『심무출입설(心無出入說)』·『주자어절요(朱子語節要)』·『밀암선생연보(密庵先生年譜)』·『심경강록간보(心經講錄刊補)』·『연평답문속록(延平答問續錄)』 등이 있다.
고종 때 이조판서에 추증되었으며, 고산서원(高山書院)에 제향되었다. 시호는 문경(文敬)이다.