Les débuts de Kalmah trouvent leur origine au début des années 90 sous le nom d'Ancestor. Pekka Kokko (Chant / Guitare), Petri Sankala (Batterie) et Antti Kokko (Guitare). Le trio, en perpétuel changement de bassiste, enregistre cinq démos entre 1991 et 1998 avant de changer d'orientation musicale en recrutant un claviériste du nom de Pasi Hiltula en 1998. Kalmah est né.

Le groupe commence alors la composition d'un disque promotionnel avec le morceau de Svieri Obraza puis signe son premier contrat avec Spikefarm Records pour l'enregistrement de Swamplord en 2000 épaulé par Altti Veteläinen leur nouveau bassiste. Leur style, proche de Children Of Bodom ou Eternal Tears Of Sorrow (avec qui ils partagent certains membres) avec ses mélodies épiques et folkloriques séduit et leur premier album est plutôt bien reçu. Suite du départ de Altti Veteläinen et de Petri Sankala, remplacés rapidement par Timo Lehtinen (Catamenia) à la basse et par Janne Kusmin (Catamenia) à la batterie, Kalmah enregistre They Will Return, leur second opus qui parait en 2002. Après une courte tournée en Finlande et un passage au Wacken, Swampsong sort très rapidement l'année suivante.

Mais en 2004, le claviériste Pasi Hiltula est remplacé par Marco Sneck, puis Kalmah enregistre The Black Waltz qui sort en 2006 et qui demeure le meilleur succès des finlandais. Le combo agrémente sa discographie de deux albums en 2008 et 2010, For The Revolution puis 12 Gauge et entame une première tournée internationale en 2008.