Émergeant de l'alignement de la rue étroite, cet épais massif en grès houiller, parfois considéré à tort comme un vestige romain, est toutefois fort ancien. Il s’agirait du premier oratoire dédié à saint Quentin érigé en 686 ou encore des ruines du premier monastère fondé par sainte Waudru. L’appellation Catiau (château) du diable pourrait aussi faire référence à une fortification, érigée en 965 à l’initiative des premiers comtes de Hainaut qui auraient voulu créer ici une résidence secondaire servant de siège à leur cour de justice itinérante. Les sources manquent cruellement pour connaitre la réponse exacte. Toutefois, des fouilles menées au cœur de la localité en 2008 ont attesté une occupation mérovingienne des lieux. À front de rue, on trouve une muraille en moellons grossiers pouvant remonter au Xe ou XIe siècle, enserrant aujourd'hui un jardin surélevé.
Classement comme monument et comme site le 11 septembre 1981
