Après la mort du musicien Randy Castillo à la suite d'un cancer en 2002, Slash, McKagan, et Sorum jouent un concert de charité pour récolter des fonds en la mémoire de Castillo avec Josh Todd et Keith Nelson des Buckcherry, et B-Real et Sen Dog de Cypress Hill. Remarquant que leur relation musicale est restée intacte, le trio commence à répéter avec Todd et Nelson, travaillant sur ce q ui deviendra Dirty Little Thing mais décident finalement de ne pas former un groupe avec eux. Pendant un concert de Loaded au Viper Room de West Hollywood, McKagan re-présente Kushner à Slash, puisqu'ils étaient d'anciens camarades d'école et de lycée. Kushner est invité à jammer avec le groupe et rapidement invité par Slash à les rejoindre.