Le groupe est formé en décembre 1980 à Los Angeles, ou en 1981 selon d'autres sources. Le guitariste David Carruth rencontre peu de temps après la formation du groupe, Brian Slagel, fondateur du label Metal Blade Records. Devenus amis, Slagel travaille sur une compilation liée au magazine de heavy metal nommée The New Heavy Metal Revue, et propose au groupe Bitch de placer une de leurs démos sur la compilation. Le projet de cette compilation est intitulé Metal Massacre, regroupant divers groupes comme Ratt ou encore Steeler et lance notamment la carrière de Metallica. La démo du titre Live for the Whip est publiée en 1982 sur la première édition de Metal Massacre en tant que seconde piste. Le premier EP, Damnation Alley, est publié la même année via Metal Blade Records, et l'année suivante, le groupe sort son premier album studio intitulé Be My Slave.