- Kurt Cobain ha parlato raramente di questa canzone, ma ha detto che era dedicata a sua moglie, Courtney Love, e alla figlia, Francis Bean. La canzone tratta di tutto ciò che ci si aspettava da lui e dei cambiamenti che aveva subito, che non erano tutti piacevoli a giudicare dalle battute, 'Married... Buried'.
- Aberdeen, Washington, dove si è formata la band, è uno dei luoghi più nuvolosi degli Stati Uniti e anche, secondo Cobain, uno dei meno accettabili. Come ha fatto sul In Utero traccia ' Dumb ', Kurt menziona il sole in questa canzone, cantando: 'In the sun mi sento come uno.' Questo rifletteva il suo desiderio di essere altrove.
- Questo è stato il momento clou dei Nirvana? Unplugged a New York , un album acustico registrato per uno speciale di MTV. Nirvana registrato la sessione Unplugged il 18 novembre 1993 ed è andato in onda quasi un mese dopo. L'album è stato rilasciato il 1 novembre 1994 negli Stati Uniti, sette mesi dopo il suicidio di Cobain. In quel contesto, sembrava un messaggio di addio di Cobain.
Abby - Altoona, IA - In alcune versioni europee dell'album, c'è una canzone nascosta 20 minuti dopo la fine chiamata 'Gallons Of Rubbing Alcohol Flow Through The Strip'. Gli album con la traccia nascosta contengono un adesivo che dice 'Exclusive International Bonus Track'.
- Quando i Nirvana hanno registrato In Utero nel febbraio del 1993, volevano realizzare un album grezzo ed essenziale che li riportasse alle loro radici dopo il lucido e influenzato dal pop Non importa . Tuttavia, la band ha ceduto alle pressioni per un ulteriore mixaggio di 'Heart-Shaped Box', 'All Apologies' e 'Pennyroyal Tea'. Si dice che l'intero album sia stato mixato e non assomigliasse affatto a ciò che i Nirvana volevano, ma i tre membri della band lo negarono con veemenza e si dichiararono molto soddisfatti del risultato.
Adrian - Brookings, SD - La band cristiana DC Talk a volte ha fatto una cover di questa canzone ai concerti, cambiando la frase 'tutti sono gay' in 'Jesus is the way'.
Brett - Edmonton, Canada - Sinead O'Connor ne ha fatto una cover nel suo album del 1994 Madre Universale .
Mike - Hamilton, Canada - Sostenuto con ' stuprami ,' questo è stato l'ultimo singolo pubblicato dai Nirvana. Kurt Cobain morì circa quattro mesi dopo.
- Il comico Bobcat Goldthwait voleva che Cobain facesse un video 'All Apologies' in cui Cobain interpretasse Lee Harvey Oswald in una rievocazione dell'assassinio di JFK (i due si erano conosciuti e diventati amici in un programma radiofonico ad Ann Arbor, nel Michigan). Cobain raramente evitava le polemiche, ma in questo caso anche lui pensava che il video avrebbe spinto le cose troppo oltre.
