Susikūrė grupė 2004-ųjų pavasarį, kai byrėti pradėjo kitas kolektyvas „The Libertines“. „Babyshambles“ tapo pagrindine vieta, kur liejosi Pete‘o Doherty poezija ir chaotiškasis rokas po to, kai dėl vis didėjančio jo potraukio narkotikams ir nesuvaldomo elgesio, jis buvo pašalintas iš „The Libertines“. „Babyshambles“ debiutinį savo 7 colių vinilinį diską, pavadintą grupės vardu, išleido 2004-ųjų balandį, o tuo metu grupę sudarė: jau minėtas Doherty, gitaristas Patrick‘as Walden‘as, bosistas Drew McConnell‘as ir būgnininkas Gemma Clarke‘as. Tų metų rudenį grupės reikalai klostėsi tikrai neblogai: visiškai išparduotos gastrolės Didžiojoje Britanijoje, buvusios „The Libertines“ leidybinės kompanijos „Rough Trade“ išleistas antrasis singlas „Kilamangiro“... Tačiau gruodį prasidėjo problemos – grupei teko atšaukti eilę numatytų koncertų dėl to, jog Doherty tiesiog negalėjo koncertuoti. Vienas iš tų atšauktų koncertų sukėlė riaušes Londone. 2005-ųjų pradžioje grupę palikti nutarė Clarke‘as, o naujuoju būgnininku tapo Adam‘as Ficek‘as. Nepaisant nuolatinio triukšmo ir paskalų, supančių grupę, o labiausiai, žinoma, jos lyderį Dohery, kuris buvo įsivėlęs į bylą dėl rašytojo Max‘o Carlish‘o užpuolimo ir šantažavimo, „Babyshambles“ pradėjo darbuotis prie pirmojo savo tikro albumo. Pasikvietę į pagalbą buvusį „The Libertines“ prodiuserį Mick‘ą Jones‘ą, grupės nariai visą 2005-ųjų pavasarį ir vasarą praleido kurdami dainas, o rugpjūtį išleido ir pirmąjį singlą, dainą „Fuck Forever“. Šis kūrinys pristatė debiutinį „Babyshambles“ albumą „Down in Albion“, kuris Didžiojoje Britanijoje buvo išleistas tų metų rudenį, o rokeriai išsirengė į koncertines gastroles, kurių metu pasirodymų buvo atšaukta maždaug tiek pat, kiek ir atlikta. Pakvaišęs Doherty elgesys ir toliau tęsėsi, o jo susidūrimus su teisėsauga jau tapo sunku suskaičiuoti – vieną kartą jis buvo areštuotas net tris kartus per dieną. Tokia padėtis grupės „Babyshambles“ egzistavimą darė vis sunkiau įsivaizduojamu ir rizika iširti vis augo. Visgi, pavasarį albumas „Down in Albion“ buvo išleistas Jungtinėse Amerikos Valstijose, o 2006-ųjų rudenį gerbėjai sulaukė nepilno albumo „The Blinding EP“. 2007-ųjų spalio pirmąją parduotuvių lentynose pasirodė ir antrasis studijinis grupės albumas „Shotter's Nation“.