Nadace rokenrolové síně slávy byla založena 20. dubna 1983 a za úkol si dala šířit slávu a osvětu o zakladatelích rokenrolu, „nejpopulárnějšího hudebního směru v historii“. U jejího zrodu stála malá skupina vlivných lidí z hudebního průmyslu v čele se zakladatelem a tehdejším šéfem hudebního vydavatelství Atlantic Records Ahmetem Ertegünem, rodákem z Istanbulu.
Členství je rozděleno do čtyř kategorií:
1. Hlavní kategorií jsou sóloví umělci nebo skupiny, jejichž první album bylo vydáno nejméně 25 let před uvedením do síně slávy a zároveň představují značný přínos pro rozvoj svého stylu.
2. Průkopníci rokenrolu.
3. „Neumělci“ - sem patří skladatelé, producenti, novináři a další osoby z hudební branže, které se zasloužily o rozvoj a popularizaci rokenrolu.
4. Nejmladší kategorií, která se uděluje od roku 2000, jsou takzvaní hudebníci v pozadí. Do této kategorie patří doprovodní a studioví hráči.
V roce 1986 bylo rozhodnuto, že sídlo síně slávy a muzea rockové hudby bude umístěno v Clevelandu, který tak zvítězil nad New Yorkem či Memphisem. Rozhodnutí vzbudilo i kritiku. Oficiálním důvodem výběru Clevelandu bylo, že z města pochází diskžokej Alan Freed, který začal na počátku 50. let prosazovat výraz rokenrol. „Ne Alan Freed, ale 65 milionů dolarů,“ napsal známý hudební publicista Michael Norman a naznačil tak spekulace, že si Cleveland síň slávy „přeplatil“.
Nová budova síně slávy a muzea byla otevřena v Clevelandu na břehu Erijského jezera 2. září 1995. Celková plocha prosklené budovy, kterou navrhl architekt Ieoh Ming Pe, má téměř 14 000 metrů čtverečních. Od svého otevření přilákala téměř osm milionů návštěvníků. Slavnostní vyhlašování se dosud konalo většinou v New Yorku.