Le groupe est formé par Dan Holder et Andy Torres en mars 2003. Ils sont par la suite rejoints par Cesar et Mike Griego, mais ce dernier va rapidement quitter le groupe, sans qu'il ne soit par la suite remplacé par un autre musicien. Une fois cette formation complêtée, le trio commence à composer ses propres chansons, puis effectuent leurs premières prestations en live au début de l'année 2004, afin de promouvoir leur démo Annihilate the Masses qui sortira plus tard dans cette même année. Deux ans plus tard, Merciless Death sort son premier album studio, Evil in the Night, qui est, comme leur démo, auto produite. Cet album attire l'attention du label Heavy Artillery, avec qui le groupe signera un contrat.