En 1994 à San Jose, Californie, Steve Harwell cherche à monter un groupe rock suite à la séparation de son groupe de rap F.O.S. Son "manager", Kevin Coleman, le présente donc à deux connaissances peu expérimentées, Greg Camp (guitare) et Paul De Lisle (basse), jouant dans un groupe de reprises nommé Lackadaddy. Ils répètent quelques pistes éclectiques dans la chambre de Camp pendant presque deux ans, ce qui lui vaudra une expulsion. Ce n’était cela dit pas en vain puisque suite à cette histoire le producteur Eric Valentine (Third Eye Blind, Steve Vai) entend parler d’eux et enregistre une démo 2 pistes pour le quatuor.

Ils décident alors de tenter leur chance et convainquent un animateur de passer un titre dans son émission de radio locale (KOME). La chanson ("Nervous in the Alley") connaît un franc succès et le groupe est rapidement invité à jouer pour No Doubt, Beck ou 311.
Au printemps ’97, ils entrent en studio pour enregistrer un album avec Valentine. Ca sera chose faite en un rien de temps et après quelques coups de fils, Interscope accepte de les recevoir et les signe même pour leur premier album. Fush Yu Mang sort à l’été et le groupe espère pouvoir en tirer profit financièrement. Ca sera chose faite rapidement grâce aux deux singles "Walkin’ on the Sun" et "Why Can’t We Be Friends ?". L’album finira par se vendre à plus de 2 millions d’exemplaires et permet aux Californiens de croiser la route de Sugar Ray entre autres.

En ’99, poussé par Interscope, Smash Mouth sort un album bien plus pop et posé, sans aucune insulte, Astro Lounge, contenant le tube "All Star". En grande partie grâce à ce dernier, ils écouleront plus de 3 millions d’exemplaires de l’opus et mèneront une vie bien remplie, à l’exception de Coleman qui quitte le poste de batteur à cause de problèmes au dos. Mitch Marine joue les intérims et c’est finalement Michael Urbano qui rempile sur le tabouret.
A cette époque sort un bootleg (non officile et illégal donc) des premières démos du groupe, The East Bay Sessions.

Après une longue tournée, le groupe se repose et compose son album éponyme. Pendant ce temps là beaucoup de monde les oublie et le groupe ne vendra "que" 500 000 exemplaires du nouveau disque, malgré (et peut être à cause de) la promotion du film Shrek qui avance une nouvelle compo des Californiens; le titre est apprécié mais beaucoup de gens achètent la B.O. qui sort avant l’album (novembre ’01). C’est également une période noire du point de vue personnel pour Harwell qui perd son fils de 6 mois atteint d’une leucémie lymphatique.
Ca sera le début de la dégringolade pour le groupe qui aura du mal à se sortir de son passage à vide, notamment marqué par l’échec retentissant de l’album de 2003 Get the Picture? qui s’écoulera à 35 000 unités seulement.

Ces ventes décevantes entraînent leur éjection d’Interscope, mais le groupe persiste chez les majors en signant chez Universal / Beautiful Bomb. La major sort tout de suite un best of du groupe (All Star Smash Hits) ainsi qu’un DVD peu fourni ; pour s’occuper, Smash Mouth compose un album de chansons de Noël (The Gift of Rock) puis un autre opus (Old Habits) que la rumeur annonce comme un retour aux sources ska / punk, mais sa sortie est repoussée le temps de faire un coup de promo. En effet, Harwell est choisi pour faire partie du casting de The Surreal Life, une émission de télé réalité qui consiste à mettre des "stars" has-been dans un appartement. Old Habits ne sortira finalement pas et un autre opus, Summer Girl, plus vendeur le remplacera fin ’06.
Les Etats Uniens le promouvront un peu sur les routes en ’07 et renoueront d’une certaine façon avec le succès commercial, en étant pour autant très très loin d‘atteindre ses précédents sommets en terme de ventes.