Gravediggaz susikūrė 1994-aisiais, tuo metu, kai Prince Paul, De La Soul prodiuseris, subūrė 3 talentingus, bet dar nespėjusius išgarsėti reperius (Rzarector – RZA, Fruitkwan – Gatekeeper, Too Poetic – Grym Reaper) į unikalią trijulę. Prince Paul jau buvo dirbęs su RZA (tuo metu jis buvo geriau žinomas kaip Prince Rakeem), taip pat ankščiau yra buvęs vienoje repo grupėje su Fruitkwan, o Too Poetic buvo pakviestas po to, kai Prince Paul išgirdo jo solo albumą. Gravediggaz stilius netrukus buvo pavadintas “horror core” dėl aštrių tekstų ir sunkaus beat’o. Įrašinėjant debiutinio albumo “6 Feet Deep” dainas, buvo pakviesti Shabazz, Killah Priest, Dreddy Kruger ir dar daug kitų. Albumas pasirodė ganėtinai neblogai, tačiau žmonės dar nebuvo pasiruošę tokiai muzikai. Gravediggaz klipai labai retai pasirodydavo Tv ekrane, MTV atsisakė rodyti vieną iš klipų “Diary of Madman”. Dainoje buvo kalbama apie mirtį, žudymą, smurtą, žinoma pats klipas nė kiek nenusileido dainos tekstui. Kitas Gravediggaz albumas pasirodė po trijų metų. Šis albumas buvo kitoks nei pirmasis. Dainos piešė realų gyvenimą gatvėse ir tikrovę getuose. Albumas nebuvo toks tamsus ir sunkus, kaip ankstesnis, bet buvo jausmingesnis, geresnės kokybės. Skirtumas tarp dviejų albumų atsirado ne vien dėl tekstų tobulėjimo, naujovių ieškojimo, bet ir dėl dainų prodiusavimo. Prince Paul, prodiusavęs visas pirmojo albumo dainas, antrajame albume jas tik perklausė, o visas dainas prodiusavo RZA ir jo draugai Wu-producers. 3 dainas prodiusavo Grym Reaper, vieną dainą Gatekeeper. Pagal Gravediggaz, jų misija yra atgaivinti psichiškai mirusius. Ir jie tai daro savo tekstais ir dvasingais beat’ais, kurie tarsi perkelia Hip-Hop’o klausytojus į kitą supratimo lygį. Gravediggaz ruošėsi išleisti dar vieną albumą, bet 1999-ųjų balandį viskas apsivertė. Grym Reaper buvo diagnozuotas vėžys, gydytojai prognozavo, kad jam liko daugiausiai 3 metai gyventi. Tačiau jis nepasidavė ir sunkiai kovojo su liga, jam pavyko išgyventi žymiai ilgiau, nei gydytojai prognozavo. Tuo metu jo draugai iš Gravediggaz ir dar daug kitų muzikantų rengė koncertus tam, kad surinktų pinigų brangiam gydymui. Tačiau 2001-ųjų liepos 15-ą dieną Anthony Berkeley mirė. Nors jis mirė labai jaunas, bet labai daug davė Hip-Hop’ui ir bus prisimenamas kaip labai talentingas reperis ir puikus žmogus. R.I.P. Likę grupęs nariai nenutraukė veiklos, to paprašius Too Poetic.