Suite à son audition infructueuse chez Judas Priest, l'ex-Gamma Ray Ralf Scheepers (chant) rejoint les membres de Sinner Mat Sinner (basse / chant) et Tom Naumann (guitare) ainsi que le batteur Klaus Sperling pour fonder Primal Fear en 1997. Après une signature sur le label Nuclear Blast Records, un premier album éponyme voit le jour en 1998. Le line-up se complète avec l'arrivée du second guitariste Stefan Leibing, avec lequel est enregistré Jaws Of Death en 1999. Les deux disques se positionnent dans les charts allemands et permettent au groupe de tourner à travers le monde.
Tom Naumann annonce son départ en 2000 et se voit remplacé par Henny Wolter (ex-Thunderhead), qui rejoint Sinner à la même période. Sous cette configuration paraissent Nuclear Fire en 2001 puis Black Sun en 2002, dont la tournée donne lieu au DVD The History Of Fear.
2003 marque le retour de Tom Neumann à la guitare ainsi que le départ du batteur Klaus Sperling et son remplacement par Randy Black (ex-Annihilator). S'ensuivent les albums Devil's Ground (2004) et Seven Seals (2005), après lesquels Primal Fear quitte Nuclear Blast pour rejoindre l'écurie Frontiers Records.
En 2007, Wolter remplace une seconde fois Naumann. New Religion sort la même année, et comprend notamment une collaboration avec la chanteuse Simone Simmons (Epica). Le guitariste Magnus Karlsson y figure également en tant qu'invité, avant de rejoindre officiellement le groupe en 2008 suite au départ de Stefan Leibing. 16.6 (Before The Devil Knows You're Dead) est publié en 2009, suivi en 2010 d'un enregistrement live.
Nouveau changement en 2011 avec l'arrivée du guitariste Alex Beyrodt (Sinner, Silent Force) en remplacement d'Henny Wolter, parti l'année précédente. Ce line-up sort Unbreakable en 2012 et Delivering The Black en 2014. C'est au tour de Randy Black de quitter l'aventure en 2014. Aquiles Priester (ex-Angra) occupe alors temporairement le poste de batteur, avant l'arrivée de Francesco Jovino (ex-U.D.O.) en 2015. Tom Naumann revient la même année, la formation passant dès lors à un sextet. Rulebreaker, onzième album studio, sort en 2016. Son successeur, Apocalypse, est annoncé pour août 2018, accompagné d'une tournée européenne.