Giraffe Tongue Orchestra a été fondé en 2016 par Ben Weinmann (The Dillinger Escape Plan), Brent Hinds (Mastodon), et William DuVall (Alice in Chains). La même année la formation sort son premier album Broken Lines dans un style expérimental.