Chiếc modem nguyên bản là một thiết bị điện báo hoạt động qua đường dây điện thoại truyền thống. Vào những năm 1950, AT&T đã thương mại hoá thành công modem máy tính được sản xuất với số lượng lớn đầu tiên để kết nối hệ thống máy tính SAGE trên toàn nước Mỹ. Tốc độ của loại modem này thật "thảm hại" so với ngày nay: 110 bits một giây.
Vào năm 1962, AT&T đã giới thiệu Bell 103 Data Phone với tốc độ 300 baud (khoảng 300bps) để biến nó thành hệ thống modem máy tính đầu tiên được thương mại hoá thành cho dân thường. Vào những năm đó thì AT&T vẫn độc quyền cho mạng viễn thông của Mỹ nên chỉ mình họ có thể phát triển modem. Đến năm 1968, thể chế độc quyền kết thúc và modem bước sang một trang mới.
Sau khi AT&T không còn được độc quyền nữa, các công ty khác bắt đầu giới thiệu modem và sản phẩm được chú ý nhất vào thời điểm đó là Hayes 80-103A, modem đầu tiên được thiết kế cho máy tính cá nhân.
Vào năm 1981, D.C. Hayes Associates đã giới thiệu phiên bản tiếp theo là Hayes Stack Smartmodem, Modem đầu tiên tích hợp câu lệnh điều khiển cho người ngườ dùng tự động gọi điện, ngắt máy hay trả lời.... Tính năng này sử dụng một chuỗi các lệnh ASCII gửi đến modem thông qua cổng serial RS-232 và nhanh chóng trở thành một tiêu chuẩn của ngành công nghiệp modem. Trước đó, hầu hết khách hàng buộc phải tự bấm số điện thoại bằng tay và giữ máy cho đến khi có người trả lời ở đầu dây bên kia.
Những chiếc modem đầu tiên cho máy tính cá nhân vào cuối thập niên 70, đầu thập niên 80 là bao gồm cả những phiên bản "ngu" và thông minh như Smartmodem ở trên. Những sản phẩm phổ biến nhất trong thời gian đó là Apple Modem 300, Commodore Vicmodem và Atari 830 (theo chiều kim đồng hồ từ góc trên cùng bên trái). Tốc độ tối đã của chúng đạt 1200 bps.
Hình ảnh một số modem khác trong 2 thập niên 80 và 90 của thế kỷ trước. Những sản phẩm này nằm trong bộ sưu tập của ông Dave Dunfield.
Kể từ giữa thập niên 80 trở về sau, những modem gắn trong sử dụng cổng giao tiếp ISA và sau này là PCI bắt đầu xuất hiện. Cho dù vậy thì modem gắn ngoài vẫn còn khá mạnh mẽ và chưa bị thay thế. Công nghệ cũng bắt đầu chín mùi để nâng cao tốc độ modem, đầu tiên là 2400bps, 4800, 9600, 14400, 28800 và hơn thế nữa. Cũng trong kỷ nguyên này, modem đã bắt đầu có khả năng nhận và gửi fax.
Giữa những năm 1990, tốc độ trung bình của modem đạt 28,8 kbps đến 33,6 kbps và những modem gắn trong thông qua cổng PCI bắt đầu được giảm giá hàng loạt, người ta dần biết nó thành một tiêu chuẩn mới trong việc lắp rắp máy vi tính. Đây cũng là thời điểm xuất hiện Winmodem, một thế hệ modem mới đẩy 1 vài công việc phần cứng cho phần mềm xử lý nhằm đạt được giá thành rẻ hơn. Cũng trong những năm này, Voice modems cho phép gọi điện giữa các máy tính cũng xuất hiện.
Cuối những năm 1990, các nhà sản xuất đã vượt một vài giới hạn vật lý của tín hiệu điện thoại tương tự, đưa tốc độ truyền tải dữ liệu tới 56kbps cho đường tải xuống và 48kbps cho tải lên. Đây là một vài mẫu modem vào thời điểm đó, từ PCI, PC Card cho laptop cho đến modem gắn ngoài.
Cho dù từng là một tiêu chuẩn của PC thì modem dial up cũng nhanh chóng bị thay thế khi mà kết nối băng rộng bắt đầu xuất hiện. Các công ty máy tính vẫn bán modem qua kết nối quay số serial và PCI nhưng một vài đã chuyển sang sử dụng modem siêu nhỏ gắn vào cổng USB như hình trên.
Nhận thấy những giới hạn của modem tương tự, các nhà sản xuất bắt đầu đưa ra những phương thức mới để đáp ứng nhu cầu ngày càng cao của khách hàng. Phương thức thử nghiệm đầu tiên là ISDN sử dụng hoàn toàn tín hiệu thoại kỹ thuật số nhưng nó quá mắc để có thể phổ biến. Những năm 2000 thì các modem qua mạng cáp TV bắt đầu phổ biến, theo sau đó là ADSL rẻ tiền hơn và modem không dây. Đến đây thì có lẽ chúng ta không còn cần phải kể nữa rồi.
