Platedirektør Sigurd ”Totto” Johannessen og musikkjournalist Yngvar Holm var initiativtakere til Spellemannprisen. Målet var å gjøre bransjen mer seriøs og arbeide for at plater skulle få samme kulturformidlerstatus som bøker. Videre ønsket man å ”oppmuntre og motivere artistene til å skape enda bedre sang og musikk”. Med platebransjen v/GGF og IFPI i ryggen, gikk turen videre til NRK der Egil Monn-Iversen og underholdningssjef Erik Diesen tente på idéen. Det ble innhentet erfaringsmateriale fra svenske Grammis og dermed var de i gang.
Navnet Spellemannprisen ble tuftet fra jazzsjargongens vokabular (å spelle, spellemann, spellikant), og ga et noe mer stilnøytralt inntrykk enn det først foreslåtte Per Spelman-prisen.
Harpa som trofé ble inspirert av Yngvar Holms munnharpe. Tegneren Bjørn Berg skisset opp forslag, og på basis av forslaget spikket Bernt F. Øhrn en modell i tre. Den dag i dag kan man ved å studere kanten av Spellemannprisen se merkene etter knivbladet.
28. november 1972 la de to initiativtakerne frem gjennomføringsrapport for GGF/IFPI som måtte bekoste utdelingen. Første prisutdelingen (Spellemann 1972) ble arrangert lørdag 3. mars 1973 i Chateau Neuf i Oslo.
Spellemannprisen 1972 hadde følgende kategorier og vinnere:
Kvinnelig artist: Kirsti Sparboe
Mannlig artist: Erik Bye
Gruppe: Popul Vuh m/Jahn Teigen (vokal), Pete Knutsen (gitar,keyboard), Arne Schulze (gitar), Terje Methi (bass), Thor Andreassen (slagverk), Pjokken Eide (fløyte, trombone)
Viser: Birgitte Grimstad
Barneplate: Knutsen & Ludvigsen
Seriøs/Klassisk: Filharmonisk Selskaps Orkester
Åpen Klasse: Einar Schanke
Arrangørpris: Sigurd Jansen
Årets Hederspris: Egil Monn-Iversen
Spesialpris: Jens Book Jenssen
Fra Spellemann 1983 kom FONO inn som medarrangør av Spellemannprisen, og i 1994 ble den forretningsmessige driften av Spellemannprisen lagt over i Forenede Fonogramprodusenter AS – et IFPI/FONO selskap. Forenede Fonogramprodusenter AS endret i 2008 navn til Spellemann AS.
De første 30 utdelingene - fra starten i 1973 (Spellemann 1972) og frem til 2002 (Spellemann 2001) ble kringkastet på NRK.
Fra 2003 (Spellemann 2002) har showet blitt kringkastet på TV2.
Våren 2009 ble det foretatt en strukturendring i Spellemann AS, som nå driftes som et ordinært AS med styre og administrasjon. Styret består av to representanter fra IFPI, to representanter fra FONO, en representant fra GramArt og en representant fra Musikernes Fellesorganisasjon.