Explica la llegenda que vers l'any 1125 la torre avui coneguda com a Miralpeix era ocupada pels sarraïns. Per tal de conquerir la torre, el ribetà Andreu Planas va aplegar uns quants cristians, que van prometre a Déu que si els afavoria en la lluita, farien construir una capella en aquell indret dedicada a la Mare de Déu de Gràcia. Tot seguit els cristians van anar a pescar i van treure un peix excepcionalment gros. Alguns dels musulmans que s'havien fet forts a la torre van baixar a la platja encuriosits per la captura. Aleshores els cristians van aprofiar per capturar-los i van poder assaltar la torre, on només quedava un sarraí. Després de la conquesta, els crisitans van fer construir l'ermita de la Mare de Déu de Gràcia en compliment de la seva promesa.