Grupė „The Rumjacks“ susiformavo 2008 m. Australijoje, Sidnėjaus mieste. Ją įkūrė Frankie Mclaughlin (vokalistas) ir Johnny Mckelvey (bosistas). Grupės „The Rumjacks“ muzikinį stilių įtakojo įvairūs elementai, nuo punk roko iki tradicinio keltų folko. „The Rumjacks“ debiutinį albumą EP „Hung, Drawn & Portered“ išleido 2009 m., tais pačiais metais išėjo ir dar vienas EP „Sound as a Pound“. Po kurio laiko pasikeitė grupės sudėtis, tačiau joje išliko McLaughlin, McKelvey, būgnininkas Anthony Matters, gitaristas Gabriel Whitbourne ir instrumentalistas Adam Kenny. Su šia sudėtimi „The Rumjacks“ išleido kritikų palaimintą albumą „Gangs of New Holland“ (2010 m.), „Sober and Godless“ (2015 m.). 2016 m. grupę paliko būgnininkas Anthony Matters, po kurio pasitraukimo „The Rumjacks“ išleido albumą „Sleeping Rough“ (2016 m.).