Mercenary était l'idée originale de Henrik "Kral" Andersen. Le groupe s'est formé à Aalborg, Danemark, en 1991. Après la sortie de deux démos Domicile (1993) et Gummizild (1994), ils ont pu signé avec le label Black Day Records, et sortir un EP de quatre titres, Supremacy (1996). En 1997, ils ont signé avec le label danois Serious Entertainment, et en 1998 ils sortirent leur premier album, First Breath. En 2002, le groupe décida d'élargir leur son avec l'arrivée du pianiste Morten Sandager, qui y contribua grandement avec son clavier, aussi bien que son frère Mikkel, qui aida à développer le chant dans leur chansons.