말갈의 계통에 대해서는 숙신 · 읍루 · 물길 · 말갈 · 여진으로 이어지는 퉁구스계 종족이라는 일원적 계통론과 말갈로 통칭되는 집단 속에 예맥계(濊貊系)와 숙신계(肅愼系)가 섞여 있다는 다원적 계통론으로 대별할 수 있다.
일원적 계통론은 혈연적 동질성에, 다원적 계통론은 문화적 동질성에 초점을 두며, 수 · 당 시기 중국인이 동북아시아 이종족을 낮추어 불렀던 비칭(卑稱)이란 견해와 고구려의 일부 피지배 주민을 가리키는 종족명이었다는 설이 있다. 말갈의 의미로는 원음(原音)이 Moxo, 또는 Moho로서 여진어의 물[水]을 뜻하는 Muke와 연결하는 견해가 대표적이며, 이 경우 ‘말갈은 물가에 사는 사람들’의 뜻이다.
이 밖에 만주 동북지방에서 나는 붉은 보석[紅寶石]의 이름이 말갈인데, 이것이 종족 명칭으로 확대되었다거나, 흑룡강 유역의 골리드족, 오로친족이 흑룡강을 Mangu라 부른다는 것과 연결해 말갈[Mat-hat], 물길[Mat-kat]이 Magu의 음역이라는 주장, 옥저(沃沮) · 읍루(挹婁) · 부여(夫餘)와 물길 · 말갈, 명대(明代)의 올자(兀者) 등이 모두 만주어로 삼림을 뜻하는 wōjí[窩集]에서 나왔다는 견해도 있어 정설이 없는 상태이다.
말갈에 관한 기록과 정보를 모아 별도의 열전으로 구성한 것은 『수서(隋書)』가 처음이고, 이후 『구당서(舊唐書)』에는 말갈열전이, 『신당서(新唐書)』에는 흑수말갈열전이 수록되었다. 『구오대사(舊五代史)』와 『신오대사(新五代史)』에는 흑수말갈열전이 있다. 따라서 『수서』 말갈열전에서 전하는 정보가 말갈 연구의 기초가 된다.
『수서』 말갈열전에 따르면 속말부(粟末部), 백돌부(伯咄部), 안거골부(安車骨部), 불열부(拂涅部), 호실부(號室部), 흑수부(黑水部), 백산부(白山部)의 7개 부(部)로 나뉘어 있다고 하는데, 『태평환우기(太平寰宇記)』에 인용된 북번풍속기(北藩風俗記)에는 수나라 때 속말부의 거수(巨帥) 돌지계가 자신의 부인 궐계부(厥稽部)를 비롯하여 홀사래부(忽賜來部), 굴돌시부(窟突始部), 열계몽부(悦稽䝉部), 월우부(越羽部), 보호뢰부(步護賴部), 파해부(破奚部), 보보괄리부(步步括利部) 등을 이끌고 수에 귀부했다고 하였다.
『신당서』 흑수말갈열전에는 흑수부 주변에 사모부(思慕部), 군리부(郡利部), 굴설부(窟說部), 막과예부(莫曳皆部) 등이 있고, 또 불열(拂涅) · 우루(虞婁) · 월희(越喜) · 철리(鐵利) 등의 부락이 있었다고 한다.
이 중 불열부, 철리부, 월희부는 8세기에 당나라에 자기 부의 이름으로 조공을 하였다. 이런 점을 볼 때 『수서』의 말갈 7부는 당시에 알려진 대표적인 부였고, 각 부 아래에는 다시 작은 부들이 속해 있었으며, 당나라 때가 되면 일부 세력은 소멸 또는 주변부에 흡수되어 새로운 부명으로 알려진 것으로 추정된다.
말갈의 거주 지역은 만주 동북부의 송화강과 목단강, 흑룡강 일대에 넓게 분포하였는데, 속말부를 기준으로 할 때 백돌부는 속말부의 북쪽, 안거골부는 백돌부의 동북쪽, 불열부는 백돌부의 동쪽, 호실부는 불열부의 동쪽, 흑수부는 안거골부의 동북쪽, 백산부는 속말부의 동남쪽에 있었다고 한다.
『수서』 말갈열전에 따르면 읍락마다 우두머리가 따로 있어 통일되어 있지 않으며, 땅이 낮고 습한 곳에서 흙을 둑처럼 쌓고 출입구를 위로 낸 구덩이를 파고 사다리로 드나든다. 돼지가 많으며 쌀을 씹어 술을 만들고, 부인은 베를 입고 남자는 돼지나 개 가죽을 입는다고 한다. 이런 풍속은 『 위서(魏書)』 물길열전의 내용과 거의 같아 물길과 말갈의 연결 관계를 상정하는 이유가 되기도 한다.
『수서』 말갈열전에는 속말부가 정예로운 병사가 수천 명으로 늘 고구려를 침략한다고 하였고, 『구당서』 말갈열전에는 백산부가 본래 고구려에 부용되었다고 했으며, 실제로 수나라 말에 속말부 소속의 돌지계가 고구려와의 싸움에서 이기지 못하자 자신의 부와 주변 부락을 이끌고 수나라에 귀부한 사실이 있다.
고구려는 598년에 영양왕이 말갈병을 거느리고 요서 지방을 침입하였으며, 645년 당 태종의 침입 시 안시성 전투에 말갈병을 동원하였는데 3천여 명이 당군의 포로가 되어 생매장당한 일이 있다.
이로 보아 고구려는 일부 말갈에 대해 강한 영향력과 통제력을 갖고 있었으며, 그들의 자치를 허용하며 간접적으로 지배했다고 생각된다. 다만 645년 안시성 전투에는 당군으로 참전한 말갈병도 있어 고구려가 말갈 전체를 지배한 것은 아니며, 말갈 부락이 자신들의 이해 관계에 따라 고구려와 중국 왕조를 선택하여 살아갔던 것으로 보인다.
고구려 멸망 이후 말갈의 일부 세력은 고구려 유민과 함께 발해 건국에 참여하였으며, 『신당서』 말갈열전에는 발해 건국자 대조영(大祚榮)이 속말부 출신이란 기록도 있다.
일본의 『유취국사(類聚國史)』에는 학승(學僧) 영충(永忠)의 전언을 바탕으로 발해 촌리(村里)가 모두 말갈부락이고 백성은 말갈이 많고 토인(土人)이 적다고 하였는데, 발해 전체가 그렇지는 않다 하더라도 말갈이 발해 주민의 주요 구성 부분의 하나였음은 인정된다.