Neben den beiden Sakristeien führen Marmorstiegen in die Krypta, die unter der Votivkapelle einen Kapellenraum umschließt. Hier werden im Winter die Wochentagsgottesdienste und die Taufen gefeiert.
„Eine der herrlichsten Orgeln der Welt“, so charakterisierte Gaston Litaize die Rudigierorgel einst. Diese Beurteilung hat bis heute keine Gültigkeit verloren.