Fondé en 1986 sous le nom de Corpse, Grave adopte son nouveau patronyme en 1988. Après quelques demos et EPs, la formation sort son premier album Into the Grave en 1991. Après
avoir tourné en Europe et aux Etats-Unis, un second album, You'll Never See..., atterrit dans les bacs l'année suivante. Le bassiste Jonas Torndal décide alors de quitter la formation.
Le groupe décide de continuer en trio et sort un troisième album plus expérimental en 1994. En 1996 Jörgen Sandström quitte le groupe, Ola Lindgren reprenant à sa charge le chant
sur l'album Hating Life. Après une tournée de chaque côté de l'Atlantique et la sortie d'un album live en 1997, le groupe reste en sommeil jusqu'à sa reformation en 1999.