Augustavo istorija itin turtinga. Iki XIII a. pabaigos Augustavo žemėje gyveno Jotvingių gentis, kuriuos galutinai 1283 m. nugalėjo Kryžiuočių ordinas. Kritus jotvingiams šios žemės ištuštėjo. Sprendimą dėl miesto įkūrimo priėmė karalius Žygimantas II Augustas, kuris 1557 m. gegužės 17 d. išdavė privilegiją, suteikiančią Magdeburgo miesto teises. Už pavadinimą ir herbą (susipynusius S.A. inicialus - Sigismundus Augustus bei PR - Poloniae Rex, vainikuotus didžiojo kunigaikščio karūna) miestas dėkingas savo steigėjui. Legendos pasakoja, kad Augustavas įkurtas siekiant įamžinti pirmąjį Žygimanto Augusto II ir Barboros Radvilaitės susitikimą. Vėliau gyvenvietė pradėjo vystytis XVI amžiaus pradžioje. Didelę įtaką šios teritorijos plėtrai turėjo didėjantis amatininkų skaičius - ypač kepėjų, skerdikų, batsiuvių, kalvių ir račių. Dinamišką miesto vystymąsi nutraukė švedų tvanas ir maro epidemijos. Miestas pakartotinai dinamišką vystymąsi išgyveno XIX a. 20 ir 30 metais, kuris buvo susijęs su Augustavo kanalo statyba. Jis turėjo būti patogus vandens kelias tarp Lenkijos karalystės su Baltijos jūra, be poreikio mokėti muito mokestį Prūsų valstybės valdžiai. Po I Pasaulinio karo Augustavas pradėjo vystytis kaip turistinė vietovė. Pradėta steigti kurortus, įskaitant „Dom Turysty” - šiuo metu „Hetman” ir „Yacht Club Rzeczypospolitej” - vėliau tapęs Kariniu poilsio namu. Čia poilsiavo Antrosios Lenkijos Respublikos politinis ir karinis elitas, įskaitant prezidentą Ignacy Mościcki, ministrą Józef Beck bei maršalką Edward Rydz - Śmigły. Dėl klimato ir gydomojo purvo klodų Augustavo girioje, 1993 m. spalį miestui suteiktas kurorto statusas.