Le groupe est fondé en 1988 par Mark Arm (chant), Steve Turner (guitare), Dan Peters (batterie), et Matt Lukin (basse). Mark Arm et Steve Turner se connaissaient depuis Green River (formé en 1984). Leurs premières productions sur le label Sub Pop, qui obtiennent un relatif succès, contribuent à la définition du « son de Seattle » et du grunge. Un premier maxi 45 tours du nom de SuperFuzz BigMuff, contenant entre autres Touch Me I'm Sick sort en 1988 chez Sub Pop. Mudhoney enchaîne ensuite avec deux albums sur le même label, Mudhoney en 1989 (dont Spacemen 3 reprend le titre When Tomorrow Hits) et Every Good Boy Deserves Fudge en 1991. Suite au bon accueil de ces disques et au phénomène médiatique autour de Seattle et du grunge, ils signent sur la major Reprise Records. Le premier album de Mudhoney chez Reprise est Piece of Cake (1992).