El muro narra la historia de Pablo Ibbieta, un anarquista español que durante la guerra civil es aprehendido y apresado por soldados franquistas. Allí se le interroga por el paradero de Ramón Gris ─líder del movimiento─, a lo cual contesta, inteligentemente, que ignora su ubicación. Es enviado a una celda junto con otros dos hombres que siquiera conoce: Tom, un combatiente de la Brigada Internacional, y Juan, jóven hermano de un anarquista.
Pasadas algunas horas, un comandante ingresó al calabozo para comunicarles que serían fusilados a la mañana entrante. Así comenzaría una larga noche en vela para los tres presidiarios. Al cabo de un rató arribó un médico designado para servirles en su espera, aunque su verdadero cometido no haya sido sino observar y estudiar las agonías propias de un hombre consciente de su inevitable muerte.
La mayor parte del texto ulterior, relatado por Pablo Ibbieta en primera persona, es ocupada por los pensamientos del personaje en tal situación, con intermitencia de algunas breves conversaciones, y en ocasiones sin distinguir claramente el sueño de la vigilia. De este modo Sartre ilustra su ideología existencialista, al hacer reparar a Ibbieta en cuestiones como el significado de las cosas, las acciones humanas, el amor, la amistad, aun el sinsentido de su propia empresa anarquista.
Llegado el alba, ingresaron los soldados pero únicamente tomaron a Tom y a Juan; Ibbieta fue obligado a permanecer en el lugar. Al término de una hora lo condujeron a una habitación en donde se lo interrogó nuevamente por el paradero de Ramón Gris. A cambio de su confesión, se le perdonaría la vida. No obstante, a pesar de conocer su ubicación (estaba oculto en la residencia de sus primos), decide engañar a sus captores afirmando que Gris se escondía en el cementerio, más precisamente en la cabaña del sepulturero.
Al regreso de los soldados, esperando con ansias sus caras decepcionadas, para su sorpresa Pablo Ibbieta es enviado nuevamente al campo de prisioneros en lugar de recibir su condena. Al anochecer se encuentra con García, el panadero, quien le asegura que Gris fue hallado en el cementerio y asesinado por la mañana. Al parecer, había decidido guarecerse en ese lugar luego de una pelea con su primo.
El nombre del cuento hace probablemente referencia al muro en el que los sentenciados son fusilados. Se aprecia en el siguiente pasaje:
—Vamos. Serán ocho. Les gritarán: ¡Apunten! Y veré los ocho fusiles asestados contra mí. Pienso que querré meterme en el muro. Empujaré el muro con la espalda, con todas mis fuerzas, y el muro resistirá como en las pesadillas. Todo esto puedo imaginármelo. ¡Ah! ¡Si supieras cómo puedo imaginármelo!