Команда была образована в 1981 году во Флориде. Поначалу она называлась "Avatar". Возглавили банду братья Джон (вокал) и Крис (гитара) Олива. Кроме них в состав также вошли ударник Стив "Док" Вачолз и басист Кит Коллинз. В 1983 году коллектив на независимом лейбле выпустил первый EP "City Beneath The Surface", а затем сменил вывеску на "Savatage". В музыке группа взяла курс, проложенный ее кумирами "Judas priest" и "Iron maiden". В том же 1983-м появился дебютный лонгплей "Sirens". На нем уже проявился фирменный стиль "Savatage" – металлические атаки сочетались с хорошими оркестровками и мелодизмом. В 1985 году команда заключила контракт с "Atlantic records", выпустив на этом лейбле альбом "Power of the night". После этого музыканты отправились в свое первое турне по Америке. В 1986-м Кита Коллинза сменил новый басист Джонни Ли Мидлтон. После выхода пластинки "Fight For The Rock" состоялись очередные американские гастроли, а затем европейское турне, где группа играла на разогреве у "Motorhead".

В 1987 году "Savatage" с продюсером Полом О'Нилом записали альбом "Hall of the Mountain King". На диске присутствовала интересная симфоническая инструменталка "Prelude to Madness".

Вообще на диске уклон был сделан в сторону прогрессив-метал. На заглавную песню был снят первый клип группы.

1988 год команда провела, колеся по Штатам в компании с Дио и "Megadeth". Тогда же в составе появился второй гитарист Крис Каффери, сначала как сессионный музыкант, а затем в 1989-м на постоянной основе. Правда ему недолго удалось продержаться в коллективе, и после длительных девятимесячных гастролей (в том числе в компании с "King Diamond" и "Testament") Каффери свалил из "Savatage". В 1989-м вышла пластинка "Gutter ballet", названная критиками лучшим металлическим альбомом года. В 1991-м квартет продолжил эксперименты с "прогрессивом" и записал рок-оперу "Streets". В 1992-году у Джона Олива начались проблемы с голосом и ему пришлось уступить свое место новому вокалисту Захари Стивенсу. Тем не менее Джон активно участвовал в создании и записи нового материала.

Но вскоре в группе начались проблемы. Некоторые участники увлеклись наркотиками. Диск "Edge of Thorns" оказался неудачным. В последующем туре отказались принять участие Вачолз и Джон Олива. В октябре злополучного для "Savatage" 1993 года Крис Олива был сбит пьяным водителем, в результате чего скончался.

В 1994-м группа выпустила альбом "Handful of Rain", посвященный Крису. На гитаре вместо него играл Алекс Сколник из "Testament". После выхода этого диска состав "Savatage" покинул Стив Вачолз, а на его месте появился Джефф Плэйт. Вскоре к команде присоединился Джон Олива, успевший также замутить сайд-проект "Doctor Butcher" в компании с Каффери. В 1995 году Каффери решил вернуться в команду. Тогда же Сколника сменил Эл Питрелли. В такой конфигурации группа выпустила свою вторую рок-оперу "Dead Winter Dead". Ее темой стала история о трех людях, затерянных в лабиринтах войны в Боснии. Инструментальная композиция "Christmas Eve (Sarajevo 12/24)" с этого альбома была очень популярна на многих радиостанциях. В 1996-м году музыканты группы под вывеской "Trans-Siberian Orchestra" выпустили альбом "Christmas Eve & Other Stories".

Диск "The wake of Magellan" был выпущен сначала в Европе (в Германии он занял 11-е место) и лишь на следующий год в Америке. В 2000 году "Savatage" расстались с "Atlantic records" и подписались к "Nuclear Blast America", на котором в 2001-м выпустили "Poets & Madmen".