La película comienza en la estación de tren de Sannomiya, el 21 de septiembre de 1945, poco después de la finalización de la Segunda Guerra Mundial. Seita, un niño indigente, agoniza en la estación mientras sostiene en sus manos una vieja lata de caramelos llena con una sustancia gris. Tras morir por inanición, el espíritu de Seita se encuentra con el de su pequeña hermana Setsuko y comienza a viajar por los lugares en los que vivió recordando los sucesos anteriores a su muerte.

​

En marzo de 1945 la aviación estadounidense somete las ciudades japonesas a continuos ataques aéreos. En uno de los bombardeos, la ciudad de Kōbe se convierte en un infierno humeante para Seita, de catorce años, y su hermana menor Setsuko, de cinco, quienes son hijos de un oficial de la Armada Imperial Japonesa. Durante el apogeo de la guerra, ambos viven con su madre, pero un día y tras un bombardeo, ambos niños se retrasan y no consiguen llegar al búnker donde ella los espera. Son tomados desprevenidos por las bombas, las cuales rápidamente destruyen su vecindario y la mayor parte de la ciudad. Después del bombardeo, aunque ambos niños resultan ilesos, mientras buscan a su madre Seita la encuentra en la escuela, que ha sido convertida en un hospital de urgencia, malherida y con graves quemaduras en la totalidad de su cuerpo.

​

Poco después, su madre muere y ambos hermanos se alojan en la casa de una tía, quien no los recibe con agrado y su indiferencia inicial pronto deja paso a un desprecio cada vez más evidente. Aunque Seita entregó a su tía todas las provisiones y posesiones valiosas que sus padres poseían, exceptuando la libreta de ahorros de la familia y una lata de caramelos para Setsuko, en poco tiempo aumentan los malos tratos por parte de la mujer, quien incluso les niega los alimentos que ellos mismos llevaron.

​

Posteriormente los dos hermanos deciden irse de la casa de su tía y vivir por su cuenta en un refugio antiaéreo abandonado en una colina de las afueras de la ciudad; allí pueden vivir con mayor desahogo y sin suponer un estorbo para nadie mientras todas las esperanzas del muchacho se enfocan en lograr contactar a su padre, quien comanda un acorazado en el Pacífico, e informarle su situación para poder reunirse. Con el paso del tiempo las cosas no les van mejor; la comida escasea y no pueden esperar ningún tipo de ayuda, obligando a Seita a robar a los agricultores locales y saquear hogares durante los ataques aéreos, lo que le acarrea problemas cuando es descubierto y golpeado por un granjero furioso que lo entrega a la policía, quedando en libertad ya que el agente a cargo se apiada al ver que sólo es un chico que se está muriendo de hambre.

​

Cuando nota que su hermana está presentando extraños síntomas, Seita consigue que un doctor la revise, descubriendo que la desnutrición de Setsuko está llegando a un punto crítico, por lo que decide retirar todos los ahorros familiares del banco para comprar comida con la cual su hermana se pueda recuperar; estando allí se entera no sólo de que Japón se ha rendido, sino también que la flota japonesa ha sido diezmada y el barco de su padre completamente destruido, lo que convierte a ambos niños en huérfanos.

​

Seita logra comprar comida mientras se desata un tifón sobre la ciudad y al regresar al refugio intenta hacer que Setsuko se alimente, sin embargo, el cuadro de la niña es tan avanzado que ha comenzado a desvariar y no tiene fuerzas para alimentarse por lo que esa noche muere en los brazos del muchacho. A la mañana siguiente, Seita coloca el cadáver de su hermana en una urna junto con las posesiones de la niña y la incinera, guardando posteriormente sus cenizas en la lata de caramelos; tras esto abandona el refugio para no volver nunca más.

​

En la época presente, el fantasma de Seita, aún sentado en la colina dónde cremó a su hermana, termina sus recuerdos con la llegada del ocaso, haciendo dormir al espíritu de su pequeña hermana mientras él observa la moderna ciudad de Kōbe iluminarse con la llegada de la noche.