1922년 1월 10일 경상남도 진주에서 태어났다. 진주 고등학교를 졸업하고 일본 동경대학에서 유학하였다. 「18세에 해곡」, 「내 사랑은」 등의 가곡을 작곡하였다.
1946년부터 마산여자중학교에서 교편을 잡았으며 1947년 문교부가 실시한 중등교재용의 음악작품 현상모집에 전래동요인 「새야, 새야 파랑새야」를 여성합창곡으로 편곡하여 입상하였고 이를 계기로 그의 작품이 널리 알려지게 되었다.
한국전쟁 중이던 1951년 마산에서 제1회 작곡 발표회를 했고 이후 부산에서 제2회 작곡 발표회를 개최하였다. 1953년 부산고교에 부임하였고 1955년 부산사범대학 교수로 임용, 재직 당시 사범대 교수 해외파견 프로그램에 선발되어 조지 피바디 대학원에서 수학하였다. 1974년에 부산대학교에 음악교육과가 신설되자 교수로 임용되었고 다시 1982년 신설된 예술대학에 재직하였고 예술대 학장으로 재직하던 중 1987년 정년이 되어 퇴임하였다.
부산대학교에 재임하던 1982년 교수와 학생으로 구성된 실내 합주단 「프로 무지카」를 창단해 10회의 정기 연주회를 했고 창단 3년 후부터는 학생들만으로 구성된 합주단으로 바로크부터 현대에 이르기까지의 폭넓은 연주곡을 들려주었다.
평론가, 교육자로 현대음악의 주도자로 인정받는 그의 대표작은 「교향곡 제1번」, 「교향곡 제6번」, 피아노곡 「한국의 꽃」, 「한국의 춤」이 있으며 오페라 「부산성 사람들」, 국악 관현악곡 「조우」 시리즈 11곡, 부산 개항 100주년 기념으로 위촉되어 작곡한 교성곡 「분노의 물결」 등이 있다.
서양 현대음악 기법을 도입하여 독창적인 현대 음악의 분야를 개척하고 실내악 운동에 앞장선 작곡가를 기리기 위하여 「이상근 기념 사업회」를 발족하였으며, 2008년부터 매년 이상근국제음악제가 열리고 있다.