Im Jahre 1905 gab Klostergründer Bussereau dem damaligen kaiserlichen, königlichen und erzherzoglichen Hofglasmaler in München, Hans Bockhorni, den Auftrag, nach den Vorlagen des Kunstmalers Augustin Pacher (ebenfalls in München) die bunten Glasfenster für das St. Paulusstift anzufertigen. Selbstverständlich hatte Bussereau diese Fenster, bevor sie überhaupt im Entwurf entstanden, selbst bis ins Kleinste durchdacht. Nach seinen Ideen und Angaben musste Pacher den Plan machen, denn Bussereau wollte durch die Vielfalt der Darstellungen eine sogenannte Armenbibel erhalten, „aus der auch das schwachsinnigste Menschenkind Belehrung und Erbauung schöpfen“ konnte. Im Juli 1906 wurden diese Fenster links und rechts vom Hochaltar eingesetzt; sie bildeten und bilden noch heute ein hervorragendes Kunstwerk. Die große Rosette, in die diese beiden Fenster übergehen, wurde schon zur Einweihung der neuen Kapelle am 8. Dezember 1898 vom Glasmaler Weißenrieder aus Speyer fertiggestellt. Darin findet sich die Darstellung der Heiligsten Dreifaltigkeit (Gott Vater, Gott Sohn und Gott Heiliger Geist). Wie ein kleines Wunder überlebten die Fenster die beiden Weltkriege. Im Jahr 2013 wurden sie umfassend von der Kunstglaserei Krumholz in Bad Bergzabern saniert.
Die große Fensterwand ist nicht nur ein wunderschönes und bewundernswertes Dekorationsstück der Kapelle, sondern mehr noch: sie lädt ein zum Gebet, zur Betrachtung und zur Erbauung. BesucherInnen sind herzlich eingeladen die Gottesdienste in der Kapelle mitzufeiern und zu den Öffnungszeiten in der Kapelle zu verweilen.
(Klaus Eichenlaub, Herxheimer Heimatverein e.V., 2024)