Legenda mówi, że mydło zostało po raz pierwszy odkryte na wzgórzu Sappo w Rzymie, kiedy grupa rzymskich kobiet prała swoje ubrania w rzece Tyber u podnóża wzgórza, poniżej którego tłuszcze zwierzęce z ofiar spływały do rzeki i tworzyły mydlaną mieszaninę z gliny. Wkrótce odkryły, że używając tej samej substancji piorącej, ubrania łatwiej się czyściły. Od tego czasu znamy mydło jako mydło.
Jednakże to starożytni Babilończycy byli tymi, którzy wynaleźli mydło, a dowodem na to są babilońskie gliniane pojemniki datowane na 2800 r. p.n.e. Inskrypcje na pojemnikach przedstawiają najwcześniejszy znany przepis na mydło i stwierdzają, że produkt został wykonany z tłuszczów połączonych z popiołem drzewnym i wodą.Te wczesne odniesienia do mydła i jego wytwarzania dotyczyły użycia mydła do mycia wełny i bawełny w przygotowaniu do tkania w tkaniny, mydło nie było niepotrzebnie używane do mycia ciała.
Papirus Ebersa (Egipt, 1550 r. p.n.e.) ujawnia, że starożytni Egipcjanie łączyli zarówno oleje zwierzęce, jak i roślinne z solami alkalicznymi, aby wytworzyć substancję podobną do mydła. Używali tej mieszanki do leczenia wrzodów, chorób skóry, a także do mycia.
Według Pliniusza Starszego Fenicjanie w 600 r. p.n.e. zrobili mydło z koziego łoju i popiołu drzewnego.
Starożytni Grecy podobno połączyli ług i popiół jako środek czyszczący do garnków i posągów swoich bogów.
Wcześni Rzymianie używali moczu do produkcji mydła w I wieku n.e. Później połączyli kozi łój i popiół z drzewa bukowego, aby uzyskać zarówno twarde, jak i miękkie mydło. Odkrycie całej fabryki mydła w ruinach Pompei, jednego z miast zniszczonych przez wybuch wulkanu Wezuwiusz w 79 r. n.e., sugeruje, że przemysł ten istniał i że mydło było szeroko znane w Imperium Rzymskim. We wczesnym wieku ery powszechnej, mimo że Rzymianie są dobrze znani ze swoich publicznych łaźni, mydła nie używano do mycia osobistego; było ono używane przez lekarzy w leczeniu chorób. Mydło do mycia i higieny osobistej stało się popularne w późniejszych wiekach ery rzymskiej.
Celtowie, którzy używali tłuszczów zwierzęcych i popiołów roślinnych do produkcji mydła, nazwali ten produkt saipo, od którego pochodzi słowo mydło.
Arabowie produkowali mydło z oleju roślinnego, takiego jak oliwa z oliwek lub niektórych olejków aromatycznych, takich jak olejek tymiankowy. Formuła ługu sodowego NaOH została użyta po raz pierwszy i nie zmieniła się w stosunku do obecnego mydła sprzedawanego na rynku. Mydło arabskie było perfumowane i barwione, i robili zarówno mydła płynne, jak i twarde.