Wie viele Orte ist Vichy eine römische Gründung namens "Aqueae Calidae", wegen den bereits genutzten Quellen. Zur Zeit Diokletians gehörte der Ort einem Grundbesitzer namens Vipius, woraus sich dann im Laufe der Zeit der Name "Vichy" entwickelte.
Ende des 16. Jh. kamen die ersten Patienten wegen der Heilquellen nach Vichy. Doch wirklich berühmt wurden die Quellen erst gegen Ende des 17. Jh., als die Marquise de Sevigné zu einer erfolgreichen Rheumakur nach Vichy kam. König Ludwig XVI liess 1787 eine neue Badeanlage errichten. 1799 kann Laetitia Bonaparte, die Mutter des späteren Kaisers, hier zur Kur. Ihrem Einfluss ist es zu verdanken, dass Napoléon 1812 den "Parc des Sources" anlegen liess. 1830 wurde das Kurhaus eingeweiht und Napoléon III machte Vichy zu seiner Sommerresidenz. Parks nach englischem Vorbild wurden angelegt, Villen und Hotels wurden gebaut, 1865 das Casino. Vichy wurde zum Modebad des internationalen Adels und zum Inbegriff von gesundem Leben und Schönheit.
Zwischen 1899 und 1903 wurde das "Centre Thermal des Dômes" mit der Trinkhalle und einem 700m langen Wandelgang errichtet. Zu Beginn des 20. Jh. kamen bis zu 100'000 Kurgäste pro Jahr nach Vichy. Zum Vergleich: heute wird Vichy von ca. 30'000 Touristen pro Jahr besucht.
Eine dunkle Epoche der Geschichte Vichys ist die Zeit von 1940 bis 1944. Vichy verfügte über mehr als 300 Hotels und bot der Verwaltung genügend Platz. Die Stadt wurde Sitz der französischen Regierung, welche die von den Deutschen unbesetzten Gebiete (Süd-)Frankreichs verwaltete (Vichy-Regime unter dem Helden des 1. Weltkrieges Maréchal Henri Philippe Pétain). Diese Regierung wurde von der Résistance und dann auch von den Alliierten als Collaborateurs abgelehnt. Mit der Befreiung Frankreichs und der Einsetzung einer provisorischen Regierung unter General Charles De Gaulle am 25. Aug. 1944, endete die vierjährige Herrschaft des Vichy Regimes.
Nach dem Krieg entwickelte sich Vichy zur einer Stadt des Sports, wo durch die französische olympische Bewegung hervorragende Trainingsinfrastrukturen für diverse Sportarten geschaffen wurden. So wurde z.B. der Fluss zum Lac d’Allier aufgestaut und ist heute Trainingszentrum der französischen Ruderer und Kanuten. Viele dieser Sportanlagen stehen den Schulen in Vichy ebenfalls zur Verfügung. Das Cavilam, heute einer der grössten Arbeitgeber der Stadt, macht davon regen Gebrauch.