1877년(고종 14)에 토머스 에디슨이 축음기[phonograph]를 발명하였다. 이것은 최초로 소리를 기록하고 재생할 수 있는 장치였다. 에디슨의 축음기는 원통형 왁스 실린더를 사용하여 소리를 녹음하였다. 10년 뒤인 1887년에는 에밀 베를리너가 그래머폰(gramophone)을 발명하였다. 그래머폰은 에디슨의 왁스 실린더와는 달리 평평한 디스크를 사용하여 소리를 기록하는 방식이었다. 음반 기술의 출발점이기도 하였다.
1925년에는 마이크로폰을 통해 증폭된 음성 신호를 디스크에 기록하는 전기 녹음 기술이 도입되면서 녹음 품질이 크게 향상되었다. 1940년대에는 자석식 테이프 녹음기가 도입되었다. 독일의 개발자인 프리츠 플로이머(Fritz Pfleumer)는 종이 기반 자석 테이프를 개발하였는데, 훗날 이것이 플라스틱 기반 테이프로 발전하였다.
1950년대에는 스테레오 녹음 기술이 등장하여 음향의 입체감을 더욱 향상시켰다. 또한, 1960년대에는 카세트테이프가 개발되면서 녹음 기기의 이동성이 많이 증가하였다. 필립스사가 1963년에 발표한 콤팩트 카세트는 소형화된 녹음 기기로, 음악 감상과 개인 녹음이 일상생활 속으로 들어오게 하였다. 1980년대에는 디지털 녹음 기술이 등장하였다. 디지털 녹음은 아날로그 신호를 디지털 신호로 변환하여 저장하는 방식으로, 음질의 손실을 최소화하고 편집이 쉬워졌다. CD[Compact Disc]는 이 시대를 대표하는 녹음 매체로 자리 잡았으며, 기존의 아날로그 음반을 빠르게 대체하였다. 1990년대 후반부터는 인터넷과 디지털 파일 형식의 발전으로 MP3 파일이 인기를 끌기 시작하였다. 최근에는 클라우드 기반의 주1가 대중화되면서 녹음 기기의 물리적인 형태는 점차 사라지고 있다.
한국에서는 1965년부터 남성흥업(南盛興業)이 일본 대천전기제작소(大川電機製作所)와 보세 가공 계약을 맺으면서 트랜지스터 녹음기의 국내 생산을 시작하였다. 본격적인 국산화는 1969년부터 시행된 전자공업 진흥 8개년 계획의 1단계[1969~1972년] 목표이었다. 하지만 1972년까지 트랜지스터 녹음기의 국산화율은 51% 수준에 불과하였고, 라디오 국산화 비율이 100%에 도달한 1978년에도 녹음기는 국산화율은 54%를 넘지 못하였다. 녹음기의 핵심 부품인 자기 헤드의 국산화가 늦어졌기 때문이었다.
소니 워크맨이 1979년에 발매된 이후, 비슷한 제품군이 한국에서도 등장하였다. 1981년에 삼성이 내놓은 ‘마이마이’는 녹음 기능이 없었다. 녹음과 카세트테이프 재생, FM 라디오 수신 기능이 모두 포함된 국산 초소형 휴대용 녹음기는 1982년에 천우사에서 처음 출시하였다. 한때 25개 회사가 경쟁하던 이 시장은 1980년대 후반에 이르러 삼성의 ‘마이마이’, 금성[LG]의 ‘아하프리’, 대우전자의 ‘요요’ 3개사가 경쟁하는 구도로 굳어졌다.