La iglesia de Sant Antoni, en el centro de la localidad y muy próxima al puerto, es la segunda más antigua de la isla, después de la Catedral de Santa María de las Nieves, en la capital. Su construcción fue autorizada por el arzobispado de Tarragona en 1305, tan solo 70 años después de la conquista cristiana de la isla, que había sido territorio musulmán durante siglos. El nuevo templo fue concebido con dos objetivos fundamentales: servir como lugar de culto y ejercer de sólida fortaleza ante las invasiones de los corsarios berberiscos. La primera versión de la iglesia se levantó a lo largo del siglo XIV y se reformó en el XVI.
La torre de defensa situada en la cabecera del templo, de planta poligonal y con almenas en alguno de sus lados, se levantó en el siglo XVII y llegó a estar armada con dos cañones, que se utilizaron por última vez en 1818, con el objetivo de tratar de hundir a dos navíos de contrabandistas gibraltereños.
Cuando los vigías avistaban corsarios enemigos, encendían hogueras para alertar a la población, que corría a refugiarse en su interior. Por esta razón, el templo no posee ventanas. Antaño, las puertas eran de hierro, para que el enemigo no pudiese prenderles fuego, y una gruesa viga las bloqueaba por dentro. En el recinto eclesiástico incluso existía un pozo de agua potable, por si el encierro se prolongaba.
La iglesia cuenta además con una parte exterior cubierta, el porxo, y un amplio patio donde los habitantes del municipio intercambiaban novedades a la salida del culto.