„Velvet Revolver“ istorija prasidėjo 2002-ųjų pavasarį, kai vienai improvizacijai ant scenos užlipo buvę legendinės grupės „Guns 'N Roses“ nariai Slash‘as (gitara), Duff‘as McKagan‘as (bosinė gitara) ir Matt‘as Sorum‘as (būgnai). Supratę, kad muzikinės energijos jiems vis dar netrūksta, jie pradėjo kurti naują medžiagą ir perklausinėti dainininkus – visa tai tapo žinoma „The Project“ pavadinimu. Iš pradžių buvo priimti buvęs „Buckcherry“ rėksmininkas Josh‘as Todd‘as ir „Neurotica“ narys Kelly Shaefer‘is. 2003-iųjų pradžioje „The Project“ tapo toks žinomas, kad apie jį dokumentinį filmą pradėjo sukti muzikinė televizija „VH1“. Dave‘as Kushner‘is (dirbęs su „Wasted Youth“ ir Dave‘u Navarro) taip pat prisijungė prie grupės, kaip antrasis gitaristas. Į bėdas nuolat patenkantis grupės „Stone Temple Pilots“ narys Scott‘as Weiland‘as į grupę atėjo dar kiek vėliau. Jis greitai „susigrojo“ su grupe ir netrukus jie išleido neblogą metalo gabalą – dainą „Set Me Free“ kino filmo „Hulk“ garso takeliui. Birželį „The Project“ buvo pervadintas į „Velvet Revolver“, o Weiland‘as oficialiai tapo šios grupės pagrindiniu vokalistu, nors nesutarimai su teisėsauga tuo metu buvo pasiekę kulminaciją. Tuomet rokeriai pasirašė leidybinę sutartį su „RCA“ ir likusius 2003-iuosius metus praleido įrašinėdami ir koncertuodami aplink Weiland‘ui teismo paskirtą reabilitacijos kliniką. „RCA“ paskelbė apie tai, jog 2004-ųjų balandį pasirodys debiutinis pilnas „Velvet Revolver“ albumas „Contraband“ – tuomet jo išleidimo data buvo pastūmėta į liepą, o galiausiai – į birželį. Tą pavasarį Weiland‘as ir toliau kamavosi teismo posėdžiuose bei reabilitacijos programose, o Slash‘as ir Duff‘as tuo tarpu spaudai išsakė visus būsimojo „Contraband“ privalumus – laukimas ir noras išgirsti albumą vis didėjo ir aštrėjo. Velvet Revolver tada išleido pirmąjį singlą „Slither“ – pasiutusį, ambicingą, Slash‘o virtuoziškų gitaros garsų vedamą kūrinį. Singlas be vargo pakilo į roko topų viršūnes, o kai galiausiai buvo išleistas albumas „Contraband“, grupių „Stone Temple Pilots“ ir „Guns‘n‘Roses“ mišinį įvertino visas pasaulis.