En el 480 a.C., a pocos pasos de la actual Catedral de Agrigento, se alzaba majestuoso un templo dedicado a Zeus Atabyrios, identificado por el historiador griego Polibio.
Un poco más abajo del templo de Zeus, se erigía un templo más pequeño, probablemente dedicado a la diosa Atenea. Con el paso de los siglos y los distintos pueblos que habitaron el territorio, se perdieron las huellas del templo más grande.
La base del templo más pequeño todavía se puede ver hoy en día. Esto se debe a que, durante el período bizantino-árabe, entre los siglos VI y IX d.C., se construyó una iglesia bizantina sobre las ruinas del templo de Atenea, que hoy es la iglesia de Santa María de los Griegos.
Por sus características constructivas, se puede vincular a los templos construidos después de la batalla de Himera en el 480 a.C., para celebrar la victoria de las ciudades griegas de Akragas, Siracusa, Himera y Gela sobre los cartagineses.
La actual función sagrada del área es un extraordinario ejemplo de la continuidad de los lugares de culto desde la antigüedad hasta hoy. Los restos del antiguo templo griego son visibles en los cimientos de la iglesia y en el pasillo junto al muro perimetral, donde se pueden ver los antiguos escalones y la base (crepidoma) sobre la que descansan las partes inferiores de seis columnas estriadas.
Se cree que la conversión del edificio clásico en una iglesia cristiana tuvo lugar en la época bizantina, dedicando a la Virgen María el templo pagano que originalmente estaba consagrado a Atenea, tal como lo estableció el Concilio de Éfeso en el 431 d.C., en línea con los decretos de los emperadores bizantinos Teodosio II y Valentiniano III en el 435 d.C.
Gracias a este decreto y a la consagración por parte del obispo Gregorio II, el llamado Templo de la Concordia en el Valle de los Templos ha llegado intacto hasta nuestros días, ya que fue utilizado como Basílica dedicada a los santos Pedro y Pablo hasta finales del siglo XVIII.
La estructura actual de la iglesia de Santa María de los Griegos data del siglo XIII, mientras que el portal apuntado de la fachada se puede fechar entre los siglos XIV y XV, superpuesto a un portal anterior.
El pergamino más antiguo de la Diócesis de Agrigento nos informa que en 1092, el obispo Gerlando, llamado por el conde Roger para evangelizar el territorio de Agrigento, celebraba misa en la iglesia de Santa María de los Griegos mientras la Catedral aún estaba en construcción.