Iced Earth est créé en janvier 1985 à Tempa (Floride) par Jon Schaffer, compositeur principal et guitariste rythmique. S'il fonde le groupe avec le batteur Greg Seymour, Schaffer va rapidement devenir le seul membre permanant du groupe, tous les autres postes allant subir des changements de line-up réguliers au fil de la longue histoire du groupe. En plus de trente ans de carrière, les Américains ont sorti 12 albums studio, et aucun avec le même line-up que le précédent.

D'abord appelé Purgatory, le groupe se renomme Iced Earth en 1988. La démo Enter The Realm, sortie en 1989, leur permet de se faire repérer par Century media Records pour y sortir un premier album, éponyme, fin 1990 ; album qui permettra à Iced Earth de tourner avec Blind Guardian. Un an après Iced Earth est publié Night Of The Stormrider. Le groupe subit un hiatus entre 1992 et 1995, et revient avec un nouveau batteur mais surtout un nouveau chanteur, qui sera emblématique du groupe : Matt Barlow (aujourd'hui dans Ashes Of Ares après un bref passage chez Pyramaze).

Burnt Offerings, sorti en avril 1995, est pour beaucoup considéré comme un des albums-clé de Iced Earth, mais aussi des mouvances Heavy et Thrash en général. La puissance vocale de Matt Barlow y est pour beaucoup. Le chanteur restera en poste pour The Dark Saga (1996), qui est un peu plus mélodique et moins lourd que les précédents opus, pour Something Wicked This Way Comes (1998), et pour Horror Show (2001). Mais le renouvellement des autres membres est néanmoins réguliers (on note la présence du bassiste Steve DiGiorgio (ex Death, Testament) sur Horror Show par exemple). Après les attentats du 11 septembre 2001, l'iconique chanteur décide de quitter Iced Earth pour intégrer les forces de police américaines, pour, selon ses termes, "contribuer au monde réel plutôt que de vivre dans l'illusion du Rock". Avant son départ, le groupe publie Tribute To The Gods, un album de reprises.

C'est Tim "Ripper" Owens (ex Judas Priest) qui reprendra le micro, en même temps que les Américains changent de label pour SPV Records. Début 2004 est publié The Glorious Burden, qui traite d’événements historiques. Après la tournée promotionnelle de l'album, le bassiste James MacDonough quitte Iced Earth pour intégrer brièvement Megadeth. le vocaliste restera dans le groupe avec l'inébranlable fondateur Jon Schaffer, mais les Américains connaîtront bien des déboires pour recruter un nouveau guitariste soliste, un batteur et un bassiste. Framing Armageddon (Something Wicked Part 1), suite du concept développé dans Something Wicked This Way Comes, ne sort que fin 2007.

En décembre 2007, Matt Barlow rejoint ses anciens camarades après 5 ans d'absence. Jon Schaffer a la volonté de commercialiser rapidement la suite et fin du concept, The Crucible Of Man (Something Wicked Part 2), car les parties instrumentales ont été en majorité enregistrées en même temps que celles pour Framing Armageddon (Something Wicked Part 1). Mais Matt Barlow fera légèrement décaler la sortie de ce troisième volet pour enregistrer avec Pyramaze. L'album sort en septembre 2008.

En 2010, Iced Earth signe à nouveau avec leur premier label, Century media. 2011 marque le nouveau retrait du groupe de Matt Barlow, après un ultime concert au festival Wacken Open Air, en Allemagne. Ce sera Stu Block, le vocaliste de Into Eternity, qui lui succédera. Dystopia sort fin 2011, et est très bien accueilli par les fans. Plagues Of Babylon voit le jour en 2014 avec un nouveau bassiste, Luke Appleton, et un nouveau batteur, Raphael Saini. Pour Incorruptible (2017), Iced Earth annonce le retour du batteur Brent Smedley et un nouveau guitariste soliste en la personne de Jake Dreyer.