Après un Tiny Music... Songs From The Vatican Gift Shop réussit Stone Temple Pilots a de nouveau essuyé quelques difficultés, toujours en raison des problèmes d'addiction de Weiland. Le groupe était alors au bord de la séparation, les frères DeLeo avaient même commencé des recherches pour remplacer leur chanteur. Au final Weiland finit par sortir de désintox et rejoint le groupe pour enregistrer ce nouvel album, sobrement intitulé No. 4.

A travers les premiers titres, Down et Heaven & Hot Rods Stone Temple Pilots arbore un style plus Metal avec des rythmes plus lourds et plus rapides, et tout spécialement sur Down avec sa grosse entrée en matière entrecoupée de cris plaintifs étranges qu'on croierait emplis de douleur. Là encore une fois  la voix de Weiland a changé, conséquences physiques infligées par la drogue obligent. Sur cet opus sa voix est bien plus aiguë, tranchant radicalement avec les premiers albums, Tiny Music... comprit. Les titres suivants viendront par la suite confirmer les choses avec des passages encore moins graves, définitivement plus fluets, voire même efféminés par moment. Néanmoins Weiland sait toujours hurler convenablement, avec un peu moins de puissance peut-être, mais tout de même.

Si l'album démarrait en trombe avec des titres puissants, les choses changent après à partir de la troisième piste pour prendre une tournure plus calme à travers deux titres plus ou moins Folk. Mais rien d'étonnant en soi, Stone Temple Pilots a toujours alterné les registres et ne déroge pas à la règle. Pas de routine cependant, le quatuor ne nous ressort pas un album qu'on aurait déjà l'impression d'avoir entendu, rien qu'au niveau du chant la différence est faite de toutes les façons.

No. 4 retrouve sa pêche initiale avec No Way Out, et les très Punk Sex & Violence et MC5, chanson dédiée au célèbre groupe de Garage Rock du même nom ayant officié sur la scène de Détroit dans les années 60 aux côtés des Stooges. Les changements de rythmes impromptus sont les bienvenus et Weiland s'en donne à coeur à joie, débitant les textes sur les couplets, les faisant plus lyriques sur les refrains.

Les ballades disséminées ici et là sont toujours présentes, de l'entraînante Sour Girl avec sa basse entraînante à la sympathique acoustique I Got You, en passant par la langoureuse Atlanta, véritable hommage avoué du groupe aux années 1960 qui rappelle immanquablement We're Going Wrong de Cream (Disraeli Gears) où les accords et le tempo sont quasiment repris à l'identique. Des violons viennent renforcer l'émotion véhiculée par Weiland après un crescendo fort bien orchestré. Une fort belle façon de clore un tel album.

Les déboires que Stone Temple Pilots a traversé auraient pu avoir raison de leur musique, mais il n'en fut rien. Le groupe a une fois de plus trouvé le moyen de se renouveler en restant fidèle à sa façon de voir la musique, qui ne se résume définitivement pas à un simple Rock uniforme.