L'église St-Pierre, romane, a été construite en 1048. C'est l'une des quatre églises disposées en forme de croix qu'avait voulu construire l'évêque Bernold (1027-1054) autour de la cathédrale, qui était encore à l'époque l'église St-Martin. Dans le mur précédant le choeur, remarquez quatre bas-reliefs mosans (vers 1170) retrouvés lors de la restauration de l'église. La crypte abrite le sarcophage en grès de la dépouille de Bernold, fondateur de l'église.