흑룡강성 대부분은 고구려의 땅이었다가 발해국(渤海國)의 지배하에 있었다. 목단강 유역 역시 발해의 영역에 속했다. 『신당서(新唐書)』 발해전(渤海傳)에 “발해는 본래 고구려에 부속된 속말갈이며 성은 대씨이다. 고구려가 망한 다음 그는 많은 사람을 거느리고 읍루의 동모산(東牟山)을 지켰다.”라고 기술되어 있어 고구려 때까지 역사적 연원이 거슬러 올라간다. 발해국 때 상경용천부 유적으로 경박호(鏡泊湖)의 동북부에 위치한 동경성진(東京城鎭)이 있다.
목단강시 관내에 위치한 영안시·해림시 등 주요 도시와 관도(官道) 및 지방도로는 조선 민족의 애환과 관계가 깊다. 이곳은 병자호란 이후 청의 요청에 의해 조선 효종대에 두 차례에 걸쳐 나선정벌에 나섰던 곳이다. 당시 조선군의 이동 경로는 용정 – 해란강 – 연길 – 가야하 – 왕청현 – 노송령 – 목단강 – 영고탑으로 이어졌는데, 이 길은 근현대시기 일제의 핍박을 피해 만주로 이주했던 조선족의 이주 경로와도 부합되며, 노송령 옛길, 석암진나루터, 영고탑 성터, 해랑하, 목단강 등은 역사의 현장이라 할 수 있다.
근대 이후 흑룡강성에 조선족이 이주한 시기는 1860년대부터이다. 1909년 영안에서는 이미 황무지를 개간하여 벼농사를 시작했고, 목단강 주변의 마도석 일대는 벼농사 재배에 성공하여 많은 조선족들이 유입하기 시작한다. 강을 따라 벼농사가 이루어지면서 조선족 집거지도 형성되기 시작하였는데, 많은 조선족민족향(朝鮮族民族鄕)이 형성되었다.
목단강시 서남부에 위치한 해림시 산시진(山市鎭)은 북만주지역 독립운동단체의 본산이었다. 1929년에 결성된 한족총연합회(韓族總聯合會) 활동 과정에서 김좌진 장군은 산시의 한 정미소(현재 문명로 9호)에서 공산주의자들의 총탄을 맞고 순국했다. 해림시와 한국의 김좌진장군기념사업회가 공동으로 ‘한중우의공원’을 2005년에 건립했는데, 이곳은 한중 양국 항일 독립운동가들의 활약상과 우의를 위해 조성된 기념관으로 청산리·봉오동전투 관련 사료들이 전시되어 있다.
목단강시에 있는 빈강공원(濱江公園)에는 동북항일연군(東北抗日聯軍)에 조선인이 적극 참여했음을 알 수 있는 부조물인 ‘팔녀투강탑(八女投江塔)’이 세워져 있다. 이 탑은 1938년 10월 동북항일연군 제5군 제1사 소속의 여성대원인 안순복(安順福)과 이봉선(李鳳善) 등 8명의 여성 투사들이 일제에 항거하다 목단강 지류인 오사혼하(烏斯渾河)에서 장렬히 강물에 투신·산화한 것을 기념하기 위해 중국정부가 세운 것이다. 이것을 통해 목단강의 조선족이 항일투쟁 전선에서 중국인과 더불어 적극 참여했음을 알 수 있다. 이 밖에도 영안, 밀산 등 관내 곳곳에 항일 독립운동의 역사가 새겨져 있다.
명칭은 길림성과 흑룡강성을 흐르는 송화강(松花江)의 여러 지류 중 가장 큰 강인 목단강(牡丹江)에서 연유한다. 지명은 시대를 내려오면서 다양하게 변하였다. 당대에는 홀한수(忽汗水), 금대에는 호이합하(呼爾哈河), 원대에는 홀합하(忽哈河), 명대에는 홀해하(忽海河)와 호이합하(虎爾哈河), 청대에는 상류를 목단울라[穆丹烏羅], 하류를 호이합하(瑚爾哈河) 등으로 불렀으나 후에 음이 목단(牧丹)으로 변하면서 목단강으로 정착된 듯하다.
흑룡강성 전체에서 세 번째로 크며, 동남부지역 최대의 도시이다. 러시아, 북한, 중국이 포위하는 금삼각(金三角, 골든트라이앵글)의 중심지역에 위치하고 있다. 북쪽으로는 하얼빈시 의란현과 칠대하시 발리현, 서쪽으로는 하얼빈시 오상시·상지시·정방현, 남쪽으로는 길림성 왕청현과 돈화시, 동쪽으로는 계서시 계동현 및 러시아와 접하고 있다. 흑룡강성에서 조선족이 가장 많이 거주하는 도시로 향급에 해당하는 조선족가도(朝鮮族街道)가 있다.