Grupę „Mob Rules“ 1995-aisiais metais įkūrė Matthias‘as Mineur‘as, Thorsten‘as Plorin‘as, Klaus‘as Dirks‘as ir Arved‘as Mannott‘as. Po dviejų metų prie grupės prisijungė gitaristas Oliver‘is Fuhlhage. Tais pačiais metais grupė sukūrė bandomąjį albumą pavadinimu „Savage Land Part I“ ir atkreipė į save daugelio leidybinių firmų dėmesį. Grupė apsisprendė dirbti su „Limb Music“ ir 1999-aisiais metais pagaliau išleido savo debiutinį albumą „Savage Land“, kuris susilaukė labai gerų vertinimų. Turuose, pristatant debiutinį albumą, „Mob Rules“ talkino klavišininkas Sascha Onnen‘as, kuris vėliau prisijungė prie grupės.

Tolimesniais metais grupė išleido dar tris studijinius albumus, kurie buvo labai gerai įvertinti. Tačiau grupei nepavyko plačiai išgarsėti atliekant metalą scenoje.

2004-aisiais metais grupę paliko gitaristas Oliver‘is Fuhlhage. Vietoj jo buvo priimtas naujas gitaristas Sven‘as Lüdge. Tais pačiais metais buvo išleistas naujas grupės albumas „Among The Gods“, susilaukęs gerų atsiliepimų.