Det finns olika meningar om vilket som var det första heavy metal-bandet. De flesta brukar säga antingen Led Zeppelin eller Black Sabbath. Även Deep Purple anses som ett tidigt heavy metal-band när de började gå mot den riktningen 1969 efter att ha spelat olika typer av rock innan dess. Det finns flera exempel på tidiga låtar som har ett hårdrocks-sound, där kanske inte hela albumet i sig var ett hårdrocksalbum. Ett tidigt exempel på detta är låten Summertime Blues av gruppen Blue Cheer som släpptes i januari 1968, som är en cover av Eddie Chochran. Andra exempel är Steppenwolfs Born to be wild som också släpptes i januari 1968, The Beatles låt Helter Skelter i oktober samma år och Iron Butterfly’s låt In-A-Gadda-Da-Vida också från 1968. När det gäller elgitarrer med såkallad ”dist” så var The Kinks en av de första att använda sådant ljud med deras låt You really got me redan år 1964.

Även i USA började hårdrocken ta fart. Grand Funk Railroad var sådant band som var aktivt från 1970 till 1976 då bandet splittrades. De gjorde sig kända genom att aktivt turnera, vilket var ett vinnande koncept under 1970-talet. Andra band som kom under denna period var Sir Lord Baltimore, Blue Öyster Cult, Aerosmith och Kiss. Deep Purples gitarrist Richie Blackmore lämnade bandet 1975 och startade bandet Rainbow med Ronnie James Dio på sång. Ronnie James Dio skulle nå ännu större framgång först med Black Sabbath under en kort period och sedan med sitt egna band ”Dio” under 1980-talet.

Ett brittiskt band som hade stort inflytande från mitten av 1970-talet var Judas Priest. De hade ökat tempo och gjort sig av med mycket av blues-soundet som den tidiga hårdrocken hade som grund. Deras dubbla gitarrer och det snabba tempot blev en signatur för bandet. De kan även ses som ett av de första ”New Wave of British Heavy Metal”-banden som var en våg med nya brittiska hårdrocksband som dök upp vid slutet av 1970-talet och början på 1980-talet. När punken slog igenom på 1970-talet så påverkades även hårdrocken. Banden började spela fortare, och bandet Motörhead var ett exempel på detta. De blandade heavy metal och punk i sitt sound. Andra band som dök upp i den nya vågen av brittiska hårdrocksband var Iron Maiden, Def Leppard och Saxon. Det var dessa som kom att slå igenom mainstream och kommersiellt. Andra band som Angel Witch, Venom och Diamond Head gjorde stort intryck på den följande amerikanska hårdrocken, då mest inom musikstilen ”thrash-metal” som började ta form strax efter.