Στην περιοχή των Λουτρών βρίσκεται ένα μεγάλο σύμπλεγμα 17 σπηλαίων, ένα βάραθρο 50 μ. και πολλά σπηλαιοκαταφύγια. Σχηματίστηκαν πριν χιλιάδες χρόνια, όταν η στάθμη των υδάτων ήταν στο επίπεδο των εισόδων των σπηλαίων, πριν ακόμα σχηματιστεί η πεδιάδα της Αριδαίας. Συστηματικές ανασκαφές και εξερευνήσεις των σπηλαίων έφεραν στο φως άφθονες ενδείξεις για την παρουσία αυτόχθονου πληθυσμού. Υπάρχουν στοιχεία για τη ζωή του πρωτόγονου ανθρώπου από εργαλεία (ακονίσμενα και λειασμένα, αιχμές μυτερές από πέτρα για τα βέλη) κ.ά. αντικείμενα που μαρτυρούν πως οι χώροι των σπηλαίων χρησιμοποιούνταν από τη Νεολιθική ή και Παλαιολιθική ακόμα εποχή.