Imaginée dès 1976 par Joel Cohen, musicien américain alors en poste à France Musique, les "Saturnales de la musique" ont été réalisées cette année là à Paris et Toulouse sous forme de manifestations musicales célébrant les deux solstices au soir du 21 juin et du 21 décembre. L'initiative sera saluée par Jack Lang.

Plus tard, en juin 1981 une « Fête de la Musique et de la Jeunesse » est organisée par André Henry (membre du gouvernement au ministère du temps libre) pour célébrer l'arrivée au pouvoir de François Mitterrand. Ce concert gratuit Place de la République à Paris, électrisé par Jaques Higelin et le groupe Téléphone s'avère être une véritable succès et réuni près de 100 000 personnes.

Quelques mois plus tard, en 1982, une grande enquête nationale révèle que près de 5 millions de français pratiquent un instrument de musique.
A l'époque, Jack Lang (ministre de la culture), Maurice Fleuret (directeur de la musique et de la danse du ministère) et Christian Dupavillon (architecte, scénographe, journaliste français, chargé des grands travaux des années Mitterrand) réalisent alors l’importance de la pratique musicale en France. Forts de ce constat et sous l'influence de Joel Cohen dont l'idée de 1976 reste en mémoire, puis de l'initiative d'André Henry, Jack Lang, Maurice Fleuret et Christian Dupavillon lancent la première édition de la fête de la musique.

La fête se veut nationale et cherche à impliquer les musiciens de tous horizons. Elle est à la fois une célébration ("Fête de la musique") et une incitation à l'implication bénévole des musiciens ("Faites de la musique"). Elle a pour vocation de célébrer toutes les musiques classiques et actuelles, tous les genres et tous les niveaux amateurs et professionnels sans hiérarchie. Le succès de la manifestation ne s'est jamais démenti. Certains établissements obtiennent des autorisations d'ouverture plus tardives, les transport publics (tramways, bus) aménagent leurs horaires de service et les municipalités ferment des rues à la circulations pour faciliter l'installations des stands et le déplacement du public. l'intérêt de la population pour la fête de la musique est tel que la télévision ainsi que la radio se sont joints au mouvement pour élargir encore sa diffusion avec des directs organisés depuis les plus beaux lieux.

Peu à peu depuis sa création, la fête de la musique s'étend au delà des frontières de la France : Belgique (1982), Grèce (1985), Chine (1992), Allemagne (1995), Colombie (2003), Etats-Unis (2006), Canada (2008), Suède (2010) .