Le groupe est fondé en 1986 à Strängnäs, en Suède, par le guitariste Erik Wallin, le bassiste Fredrik Karlén et le batteur Stefan Carlsson. Le chanteur Kåle vient par la suite completer la formation. Ils commencerent donc à jouer un metal fortement influencé par le Thrash metal du début des années 1980, comme Kreator, Sodom, Destruction et Bathory. À la base, le groupe s'appelait Obsessed, puis Black mass, puis a choisi le nom de Merciless au début de l'année 1987. Leur première démo, Behind the Black Door, voit le jour en 1987. Peu après sa sortie, le chanteur Kåle quitte le groupe. Il est alors remplacé par Roger "Rogga" Pettersson. ils enregistrent puis sortnent la démo Realm of the Dark en juin 1988. Cette démo attire alors l'attention du label Deathlike Silence Productions, dirigé par Euronymous, du groupe de Black metal norvégien Mayhem.