Se cree que quizás naciera su uso con la agricultura, no obstante se conocen usos del árbol del olivo en el Paleolítico Superior.
El origen de la producción de aceite de oliva hay que buscarlo en las costas del levante mediterráneo, en toda la región sirio-canaanita, actualmente Siria, Líbano, Palestina e Israel.
En esta zona se comenzó a extraerse aceite de las aceitunas silvestres.
En Egipto, donde se inició el cultivo del olivo hacia el 2000 a. C., se comenzó a usar el aceite de oliva con fines cosméticos, ya los egipcios apuntaban a Isis como la diosa que enseñó a los hombres el cultivo del olivo.
Los mismos egipcios empezaron a comercializar el aceite de oliva.
Pronto se extendería al mediterráneo, siendo parte integrante de la trilogía: pan, vino, aceite.
La producción oleícola no llegó con los griegos, sino a mediados del II milenio a. C. a través de la conquista micénica de Creta.
En la posterior civilización helénica que se desarrolló en el área, el aceite de oliva siempre tuvo un importante papel.
En el origen mítico de Atenas, el olivo desempeña un papel fundamental, pues dice la tradición que tanto Atenea como Poseidón quisieron tener bajo su protección a la nueva ciudad y para ello Zeus ofreció un presente a los atenienses, prefiriendo estos el presente de Atenea, un retoño de olivo.
Durante las competiciones gimnásticas, los griegos se ungían con aceite de oliva mezclado con ceniza que luego se limpiaban usando un artilugio de bronce o cobre llamado estrigilo.