Panašiai, kaip ir „G. Love & Special Sauce“, Niujorko trijulė, žinoma „Fun Lovin' Criminals“ pavadinimu, alternatyviosios muzikos sferose pradėjo suktis dėl savo kūryboje susimaišiusių hip-hop‘o beatų, alternatyvaus stiliaus ir bliuzo ritmu. Grupė susikūrė 1993-aisiais – ją sudarė bosistas Fast‘as ir būgnininkas Steve‘as, susitikę Sirakūzuose, dar lankydami mokyklą. Taigi, porelė sukūrė techno stiliaus grupę, tačiau vėliau persikėlė atgal į Niujorką, kur laiką leisti pradėjo su vokalistu/gitaristu Huey. „Fun Lovin‘ Criminals“ pradėjo groti vietiniuose klubuose, o 1995-aisiais „Silver Spotlight“ leidybinė kompanija išleido jų debiutinį albumą, tokiu pačiu, kaip ir grupės, pavadinimu. Sekančiais metais trejetas pasirašė sutartį su „Capitol“ įrašų kompanija ir sulaukė jau kiek didesnio dėmesio, užsidirbdami pirmąjį hitą, iš albumo „Come Find Yourself“ paimtą singlą „Scooby Snacks“. 1997-aisiais kolektyvas iškeliavo į savo „Popmart“ koncertines gastroles, kurių metu buvo viena iš „U2“ apšildančių grupių.

Praėjus aštuoniolikai mėnesių, „Fun Lovin‘ Criminals“ sugrįžo su pirmuoju „Virgin“ įrašų kompanijai įrašytu albumu „100% Colombian“. Dainos „Love Unlimited“ ir „Korean Bodega“ tapo karštais hitais Europoje bei susilaukė dėmesio tarp koledžų radijų, tačiau nesugebėjo sulaukti pritariamo kritikų įvertinimo savo gimtojoje šalyje. Ši problema visiems nedavė ramybės, kol 1999-aisiais „Fun Lovin' Criminals“ atėjo didelių pasikeitimų metas. Vienas iš grupės įkūrėju, būgnininkas Steve-O, paliko grupę vasarį ir buvo pakeistas buvusiu „Bad Brains“ bei „Cro-Mags“ bariu Mackie Jayson‘u. Po septynerių mėnesių, kai grupė įrašinėjo savo B pusių kolekciją „Mimosa“, Fun Lovin‘ Criminals ir kompanijos „Virgin“ keliai išsiskyrė. 2002-aisiais jie pasirašė sutartį su „EMI“, tačiau išleidus kompiliaciją „Bag Of Hits“, grupė buvo išmesta iš kompanija. Galiausiai jie pasirašė kontraktą su „Sanctuary“ leidybine firma, o 2003-iųjų rugsėjį sugrįžo su nauju albumu „Welcome to Poppy's“.