Gaildorf, 1260 erstmals urkundlich erwähnt, wurde 1404 von König Ruprecht zur Stadt erhoben. Noch im gleichen Jahr begann Schenk Friedrich III. mit dem Bau einer Stadtmauer.
Der Enkel Friedrichs, Schenk Albrecht III., bestimmte 1482 das Gaildorfer Schloss zu seinem Wohnsitz. Gaildorf wurde Residenzstadt. 1713 erlosch das Haus Limpurg im Mannesstamm. Die letzten Schenken hinterließen „nur“ zehn Erb-Töchter.
1806 kam die Grafschaft Limpurg unter die Oberhoheit des Königreichs Württemberg und wurde 1807 zum Oberamt. Die ehemalige Residenzstadt wurde bis 1934 zur Oberamtsstadt. In diese Zeit fielen die Dienstjahre von Justinus Kerner als Oberamtsarzt, der Stadtbrand von 1868, die Eröffnung der Eisenbahnstrecken nach Hessental und Murrhardt sowie der erste Pferdemarkt.
1934 erfolgte die Umbenennung des Oberamtes in Kreis Gaildorf. Dieser wurde 1938 aufgelöst und Gaildorf dem Landkreis Backnang zugeordnet. Seit 1973 gehört die Stadt zum Landkreis Schwäbisch Hall.
Die Eingliederung der Stadtteile Ottendorf, Unterrot und Eutendorf erfolgte in den Jahren 1971 bis 1974.