En el lugar de Augas Santas (Allariz), muy cerca del santuario, se encuentran los restos inacabados de la basílica de la Ascensión, una edificación románica del siglo XIII que se construyó probablemente para conservar y ensalzar lo que esconde en el piso inferior de la cripta, que podría ser una sauna castrexa o un horno prerromano, ligado al vecino castro de Armea. Sobre la construcción de la basílica poco se sabe, pero se dice que fueron los templarios quienes iniciaron su construcción, quizás para proteger el monumento que se encuentra bajo tierra.

La basílica de la Ascensión tiene forma de cruz para acoger las escaleras que bajan a la cripta. La cripta alberga espacios bien diferenciados. Una zona construida como antesala en la que existe una pila labrada en la roca, diversos canales, un altar y varias tapas de sarcófagos medievales. Al interior tan solo penetra la luz que se cuela por una pequeña ventana que se localiza por encima del altar. Esta antesala se encuentra separada por una supuesta «Pedra Formosa» que diferencia las dos salas de diferente antigüedad (una del siglo XII y otra del siglo VI o VII). Más al interior encontramos el horno que ya podría considerarse de origen prerromano y englobado dentro de la cultura castreña.

La funcionalidad de los hornos no está todavía claro y hay varias hipótesis que intentan explicar su uso. Por un lado se cuenta que podrían ser saunas castreñas, aunque esta hipótesis cada día está menos clara. Otros intentan explicar un uso como horno, incluso para quemar cuerpos humanos, dentro de un concepto religioso. También se habla de una funcionalidad para algún tipo de rito iniciático, de ahí las profusas decoraciones en las «Pedras Formosas». Sea lo que fuera es muy probable que este horno estuviera en uso hasta pasado el siglo VIII o quizás hasta la construcción de la basílica de la Ascensión de Armea.