A magazint San Franciscóban a hippi ellenkultúra epicentrumában – hol máshol? – alapította Jann Wenner és Ralph Gleason újságíró, előbbi a mai napig a lap kiadója. Az első, még tabloid formátumú szám első oldalán John Lennon szerepelt katonai ruhában (a Beatles tagja a How I Won The War című filmben szerepelt akkor). Az első vezércikk a monterey-i fesztiválról szólt.

A lapot Wenner (családjától és leendő felesége szüleitől) kölcsönkért 7500 dollárjából alapították, nevet Muddy Waters és Bob Dylan vonatkozó dala (Rollin' Stone és Like a Rolling Stone) és a Rolling Stones nyomán választottak.

Facebook / Rolling Stone

Az első számban Wenner azt írta, hogy Rolling Stone "nem csak a zenéről szól, hanem azokról a dolgokról és attitűdökről, amiknek köze van a zenéhez". Ez a mai napig is így van, az arányok azonban finoman eltolódtak az egyébként még mindig meghatározó zene felől a populáris kultúra más területei felé.

A Rolling Stone-ban - mely 1977-ben átköltözött New Yorkba - az elmúlt évtizedek alatt olyan emblematikus szerzők publikáltak, mint Hunter S. Thompson (a Rolling Stone hozta le előszor a Félelem és reszketés Las Vegasban című Thompson-regényt, két részben), P.J. O'Rourke, Lester Bangs, David Fricke, vagy Kurt Loder, de a lap neve szorosan összefonódott többek közt a magazinban fantasztikus képeket publikáló legendás fotóssal, Annie Leibowitzcal is.

2017 szeptemberében a Wenner Media bejelentette, hogy a lap – melynek időközben számos nemzetközi mutációja indult Chilétől Japánig – többségi tulajdonrésze eladó.