Los mosaicos del convento latino indican que pudo haber cristianos aquí al menos desde el siglo III. También hay una lápida antigua que no tiene fecha, pero contiene una inscripción que parece ser latina o griega antigua. En 1884, durante la construcción del Convento de las Hermanas del Rosario, ubicado justo al lado de la Iglesia de la Visitación, se descubrieron antiguos mosaicos bizantinos que pertenecen a la Iglesia de San Justiniano. El Patriarcado Latino abrió allí en 1883, y las Hermanas del Rosario llegaron en 1884.