Spencer fundou o Heavy Trash em 2005, ao lado de Matt Verta-Ray, baixista da Speedball Baby, banda que à época excursionava com a Blues Explosion.
A Heavy Trash é Rockabilly com elementos de punk, blues e garage, e tem dois ótimos álbuns lançados: Heavy Trash (2005) e Going Way Out with Heavy Trash (2007).