Am 20. April 1418 verbrannte die Stadt St.Gallen bis auf 19 Häuser. Da sich viele Urkunden, Akten und Bücher aus dieser Zeit erhalten haben, ist anzunehmen, dass bereits damals so etwas wie ein feuersicheres Archiv existierte oder dass die Schriftzeugnisse rechtzeitig in Sicherheit gebracht wurden.
Hinweise auf ein Archiv-Gewölbe über dem Irertor, einem Stadttor Richtung Norden, reichen ins Jahr 1480 zurück. 1659 wurde am Rathaus ein Anbau errichtet, der drei feuerfeste Gewölbe für das Stadtarchiv enthielt. 1867 erfolgte der Umzug des Archivs vom Rathaus am Markt ins Stadthaus an der Gallusstrasse.
1901 wurde Traugott Schiess Stadtarchivar, der ab 1907 im neu errichteten Gebäude für „Archiv und Bibliothek“ (heutiger Standort) an der Notkerstrasse 22, in der heutigen Kantonsbibliothek St.Gallen wirken konnte. Von 1935 an waren Alfred Schmid und Heinz Lienhard nebenamtliche Stadtarchivare, 1971 wurde mit Ernst Ziegler wieder ein vollamtlicher Stadtarchivar der Ortsbürgergemeinde angestellt.
Seit 2003 hat Stefan Sonderegger das Amt des Stadtarchivars inne, unterstützt wird er dabei von Dorothee Guggenheimer, Ursula Hasler, Thomas Ryser, Rezia Kramer und Monika Rüegger.