Augustów ma niezwykle bogatą historię. Do końca XIII wieku ziemia augustowska była zamieszkiwana przez plemię Jaćwingów, pokonanych ostatecznie w 1283 roku przez Zakon Krzyżacki. Po upadku Jaćwieży ziemie te wyludniły się.
Decyzję o założeniu miasta podjął król Zygmunt II August, który 17 maja 1557 roku wydał przywilej nadający prawa miejskie magdeburskie. Nazwę i herb (splecione ze sobą inicjały S.A. – Sigismundus Augustus oraz PR – Poloniae Rex, uwieńczone mitrą wielkoksiążęcą) miasto zawdzięcza swojemu założycielowi. Według legendy Augustów powstał dla upamiętnienia pierwszej schadzki Zygmunta Augusta i Barbary Radziwiłłówny.
Ponownie osadnictwo zaczęło się rozwijać na początku XVI wieku. Duży wpływ na rozwój tych terenów miało osiedlanie się rzemieślników, zwłaszcza piekarzy, rzeźników, szewców, kowali i kołodziejów. Dynamiczny rozwój miasta przerwały wojny szwedzkie i epidemie dżumy.
Miasto przeżywało dynamiczny rozwój gospodarczy ponownie w latach 20. i 30. XIX wieku, związany z budową Kanału Augustowskiego. Miał on stanowić dogodne połączenie wodne Królestwa Polskiego z Morzem Bałtyckim, bez potrzeby opłacania cła władzom państwa pruskiego.
Po pierwszej wojnie światowej Augustów zaczął rozwijać się jako miejscowość turystyczna. Zaczęły powstawać ośrodki wypoczynkowe m.in. „Dom Turysty” - obecny „Hetman” i „Yacht Club Rzeczypospolitej” - późniejszy Wojskowy Dom Wypoczynkowy. Odpoczywały tu elity polityczne i wojskowe II Rzeczypospolitej, m.in. prezydent Ignacy Mościcki, minister Józef Beck oraz marszałek Edward Rydz-Śmigły.
W październiku 1993 r. miasto uzyskało status uzdrowiska, dzięki warunkom klimatycznym i złożom borowiny w Puszczy Augustowskiej.