Fichtenberg gehört zu den ältesten Siedlungen des Limpurger Landes. Der genaue Entstehungszeitpunkt lässt sich nicht auf die Jahreszahl genau nachweisen. In einer Urkunde aus dem Jahre 817, die allerdings gefälscht sein soll, wird der Ort Viheberg genannt. Der Name der Siedlung wird später mit Vypberg,  im 14 Jahrhundert mit Viechberg bezeichnet. Die Bedeutung des Namens Viechberg lässt auf eine Weidelandschaft mit angrenzendem Bergland schließen.

Als gesichert kann man annehmen, dass im 9. Jahrhundert die Siedlung Fichtenberg dem Kloster Murrhardt geschenkt wurde. Viechberg gehörte im Laufe der Jahrhunderte verschiedenen Landesherren. 1338 kam ein Großteil der Siedlung mit der Burg Rötenburg an die Grafschaft Limpurg.

Nach dem die alte Kilianskirche (1519 - 1832) baufällig geworden war wurde anno 1832 der Grundstein für die heutige Kirche gelegt. Wenig später erstellte Mittelrot ein eigenes Schulhaus. Am 14.05.1885 wütete in Fichtenberg eine Feuersbrunst, die viele Häuser in Schutt und Asche legte. 1872 wird der Ort "Viechberg" auf gemeinderätlichen Beschluss, in "Fichtenberg" umgetauft. Mit dem Bau der Bahnlinie 1877-80 und der Übergabe der Verbindungsstraße Fichtenberg- Gschwend war der Ort nach allen Seiten hin erschlossen.

1901 weihte man - neben der Kirche - das zweite Schulhaus ein, dem 1960 am Fuße des Viechberg ein Neubau folgte. Dieser wurde 1987 und 1997 erheblich erweitert. Weitere wichtige Gemeinschaftsvorhaben waren die Einweihung der Gemeindehalle 1964 und die Erweiterung des Kindergartens 1975 und 1997.

Anlässlich der Gemeindereform kam Erlenhof im Jahr 1970 zu Fichtenberg . Durch die Kreisreform wurde der Landkreis Backnang aufgelöst, Fichtenberg kam zum Landkreis Schwäbisch Hall. Nach dem zweiten Weltkrieg wurden nacheinander Bebauungspläne für Wohn-/ Gewerbegebiete erstellt, eine rege Bautätigkeit begann.

Im Jahr 2016 feierte die Gemeinde ihr 1200-jähriges Bestehen.