De legende vertelt dat zeep voor het eerst werd ontdekt op de Sappoheuvel in Rome toen een groep Romeinse vrouwen hun kleren wasten in de rivier de Tiber aan de voet van een heuvel, waaronder dierlijke vetten van de offers naar beneden liepen in de rivier en een zeepachtig kleimengsel creëerden. Al snel ontdekten zij dat met deze zelfde reinigende substantie de kleren gemakkelijker schoon werden. Sinds die tijd kennen wij zeep als zeep.
De oude Babyloniërs waren echter degenen die zeep hadden uitgevonden en bewijs hiervoor zijn Babylonische kleivaten die gedateerd zijn op 2800 v. Chr. Inscripties op de vaten geven het vroegst bekende geschreven zeeprecept en zij stellen dat het product werd gemaakt van vetten in combinatie met houtas en water.Deze vroege verwijzingen naar zeep en het maken van zeep waren voor het gebruik van zeep om wol en katoen te wassen ter voorbereiding van het weven tot een doek, zeep werd niet noodzakelijkerwijs gebruikt om het lichaam te wassen.
De Ebers papyrus (Egypte, 1550 v. Chr.) onthult dat oude Egyptenaren zowel dierlijke als plantaardige oliën combineerden met alkalische zouten om een zeepachtige substantie te produceren. Zij gebruikten dit mengsel om zweren en huidziekten te behandelen en om zich te wassen.
Volgens Plinius de Oudere maakten de Feniciërs in 600 v.Chr. zeep van geitenvet en houtas.
De oude Grieken zouden loog en as hebben gecombineerd als reinigingsmiddel voor potten en de beelden van hun goden.
De Romeinen gebruikten in de eerste eeuw na Christus urine om een zeepachtige substantie te maken. Later combineerden zij geitenvet en de as van de beukenboom om zowel harde als zachte zeepproducten te maken. De ontdekking van een volledige zeepfabriek in de ruïnes van Pompeii, een van de steden die verwoest werden door de vulkaanuitbarsting van de Vesuvius in 79 na Christus, wijst erop dat de industrie gevestigd was en dat zeep wijd en zijd bekend was in het Romeinse Rijk. Hoewel de Romeinen bekend staan om hun openbare baden, werd zeep in de eerste eeuw van de Gemeenschappelijke Eeuw over het algemeen niet gebruikt voor persoonlijke reiniging; het werd door artsen gebruikt bij de behandeling van ziekten. Zeep voor persoonlijke reiniging en hygiëne werd populair in de latere eeuwen van de Romeinse tijd.
De Kelten, die dierlijke vetten en plantaardige as gebruikten om hun zeep te maken, noemden het product saipo, waarvan het woord zeep is afgeleid.
De Arabieren maakten de zeep van plantaardige olie zoals olijfolie of sommige aromatische oliën zoals tijmolie. De formule van natriumloog (NaOH) werd voor het eerst gebruikt en is niet veranderd ten opzichte van de huidige zeep die op de markt wordt verkocht. Arabische zeep was geparfumeerd en gekleurd, en ze maakten zowel vloeibare als harde zeep.