Ólífan var tákn alls Miðjarðarhafsins í fornöld. Ásamt eikinni er það virtasta tré grískrar goðafræði. Athyglisvert er að Grikkir notuðu ólífur sem aðaluppsprettu fitu. Kjöt var fæða barbaranna og því talið óhollt.
Grísk goðafræði útskýrir uppruna ólífutrésins í Aþenu á eftirfarandi hátt. Aþena er dóttir Seifs (æðsta guðs grískrar goðafræði) og Metis, sem táknaði slægð og hyggindi. Aþena var stríðsgyðja en eiginleikar hennar voru spjót, hjálmur og skjöldur. Auk þess var Aþena talin gyðja réttlætis og visku, verndari listar og bókmennta. Heilagt dýr hennar var ugla og ólífutréð var eitt af sérkennum hennar. Ástæðan fyrir því að gyðjan valdi ólífu sem tákn hennar er útskýrð í eftirfarandi goðsagnakennda sögu:
Í Grikklandi táknar ólífutréð frið og velmegun, sem og upprisu og von. Um þetta vitna atburðir sem gerðust eftir brennslu Aþenu af Persakonungi Xerxes á 5. öld f.Kr. Xerxes brenndi alla borg Akrópólis ásamt aldargömlum Aþenu ólífutrjánum. Hins vegar, þegar Aþenumenn komu inn í sviðna borgina, hafði ólífutréð þegar byrjað nýja grein, sem táknaði hraðan bata og endurnýjun í mótlæti.
Herkúles, ein frægasta goðafræðilega hetjan, tengist einnig ólífutrénu. Þrátt fyrir mjög ungan aldur tókst Hercules að sigra ljónið Chitaeron aðeins með hjálp handa sinna og staf af ólífutré. Þessi saga vegsamaði ólífuna sem uppsprettu styrks og baráttu.
Ólífutréð, þar sem það er heilagt, var oft notað sem fórn til guðanna frá dauðlegum mönnum. Þessu er vel lýst í sögunni um Þeseif, þjóðhetju Attíku. Theseus var sonur Eyjahafskonungs Attíku, sem fór í ótal ævintýri um ævina. Ein þeirra var átökin við Mínótárinn á eyjunni Krít. Fyrir bardagann bað Theseus Apollo líka um vernd.
Frjósemi var annar eiginleiki ólífutrésins. Aþena er gyðja frjóseminnar og tákn hennar var eitt mest ræktaða tré Grikklands, en ávextir þess gáfu Hellena næringu um aldir. Þannig voru þeir sem vildu auka frjósemi landa sinna að leita að ólífu.
Sambandið milli forngrísks samfélags og ólífutrésins var mjög sterkt. Ólífan táknaði styrk, sigur, fegurð, visku, heilsu, frjósemi og var heilög fórn. Ekta ólífuolía þótti verðmæt hlutur og var boðin verðlaun til sigurvegara í keppnum.