Po kilku przyjściach i odejściach członków uformował się klasyczny skład Jamesa, Eddiego Graya (gitara), Mike’a Vale’a (bas), Rona Rosmana (klawisze) i Pete’a Lucii (perkusja). Grupa nagrała piosenkę będącą kontynuacją „Hanky Panky”. Kiedy próba odnalezienia Shondells przez Boba Macka zakończyła się niezamierzonym sukcesem, powiedział on Jamesowi o innej płycie, którą znalazł w tym samym pojemniku na zużyte płyty, z którego pochodzi „Hanky Panky”: „Say I Am” Jimmy’ego Gilmera i Fireballs. Jedyną rzeczą, której James i jego nowi Shondells byli świadomi wchodząc po raz pierwszy do studia nagraniowego, było to, że cokolwiek nagrają, powinno brzmieć podobnie do „Hanky Panky”, choć obie piosenki nie brzmią tak samo. Mack puścił grupie płytę The Fireballs, a oni postanowili nagrać swoją wersję utworu. Mack został uznany za producenta pierwszego albumu grupy, Hanky Panky.
Pisarz piosenek Richie Cordell napisał (lub był współautorem) i wyprodukował wiele hitów grupy, wśród nich „I Think We’re Alone Now”, „Mirage” i „Mony Mony”. Utwór „Mony Mony” był dziełem grupy, w której skład wchodzili Cordell, James, członek zespołu Shondells Peter Lucia, producent Bo Gentry i Bobby Bloom. James i Cordell postanowili stworzyć imprezowy rockowy singiel, opracowując wszystko oprócz tytułu piosenki, który wymykał się im nawet po wielu wysiłkach. Kiedy zrobili sobie przerwę od twórczych wysiłków na tarasie mieszkania Jamesa, spojrzeli w górę na wielki neon Mutual of New York Insurance Company, na którym widniał skrót nazwy firmy: M-O-N-Y, od którego pochodzi nazwa piosenki.
Tommy James and the Shondells wyprodukowali również teledysk „Mony Mony”, gdy piosenka stała się hitem. Pomimo tego, że wiele grup muzycznych już wtedy wyprodukowało teledyski, w USA nie było rynku na ten film. Stacje telewizyjne nie chciały go emitować, a w Europie był on pierwotnie wyświetlany w kinach pomiędzy podwójnymi filmami. Film nie był oglądany w USA aż do powstania MTV.
James został skontaktowany przez Beatlesa George’a Harrisona, który w tym czasie pracował z grupą Grapefruit. Harrison i grupa napisali kilka piosenek, które chcieli, aby James rozważył nagranie. Ponieważ grupa podjęła decyzję o zmianie stylu muzycznego (i zrobi to z „Crimson and Clover”: patrz poniżej), a materiał dostarczony przez Harrisona i Grapefruit był w stylu „Mony Mony”, James odrzucił ich ofertę.
Biznes muzyczny zmienił się po sukcesie „Mony Mony”. Formatowanie programu Top 40, oparte na pojedynczych płytach 45 RPM, napędzało muzykę popularną w radiu. Niewiele stacji grało kawałki z albumów, więc radio w efekcie „sprzedawało” pojedyncze płyty dla wytwórni płytowych. W sierpniu 1968 roku James and the Shondells wyruszyli na trzymiesięczną kampanię wyborczą wraz z kandydatem na prezydenta, wiceprezydentem Hubertem Humphreyem. W międzyczasie muzyka popularna stała się oparta na albumach, wypierając wielu wykonawców, których single były bestsellerami. James zdał sobie sprawę, że on i the Shondells muszą stać się grupą zorientowaną na albumy, jeśli chcą przetrwać w biznesie, co wymusiło zmianę ich stylu.
Po opracowaniu strategii marketingowej dla ich nowego brzmienia, James odwiedził WLS, kiedy grupa była w Chicago, aby zagrać koncert, przynosząc ze sobą wstępne cięcie „Crimson and Clover” do stacji. WLS potajemnie nagrało muzykę, kiedy James puścił dla nich swoją taśmę. Zanim James wyszedł z budynku i wsiadł do samochodu, radio puszczało dub stacji z nieukończoną jeszcze piosenką. „Crimson and Clover” musiało zostać wytłoczone w sposób, w jaki było słyszane w stacji radiowej, a plan marketingowy był teraz stratą czasu i wysiłku.
„Crimson and Clover” było ogromnym sukcesem, a grupa miała dwa kolejne hity, które również dotarły do pierwszej dziesiątki Hot 100, „Sweet Cherry Wine” i „Crystal Blue Persuasion”. James, który był współautorem wszystkich trzech piosenek, i jego zespół poradzili sobie na tyle dobrze z transformacją, że zostali zaproszeni do występu na Woodstock. James tak opisuje zaproszenie Artiego Kornfelda: „Artie był na górze i zapytał, czy moglibyście zagrać na tej farmie świń w stanie Nowy Jork.” Powiedziałem, „Co?!?” „Cóż, mówią, że będzie tam dużo ludzi i że to będzie naprawdę ważny koncert”. W tym czasie James był na Hawajach i był niedowierzający, że został poproszony o podróż 6,000 mil, aby zagrać koncert na farmie świń w Upstate New York, mówiąc sekretarzowi Roulette Records, „Jeśli mnie tam nie będzie, zacznijcie bez nas, proszę?”
W marcu 1970 roku, po czterech kolejnych hitach, narkotyki prawie zabiły Jamesa, kiedy na koncercie upadł i został uznany za zmarłego. Jednak przeżył, postanowił zrobić sobie przerwę od studia nagraniowego, i przeniósł się do kraju, aby odzyskać siły. The Shondells, bez Jamesa, nagrali dwa albumy pod nową nazwą grupy Hog Heaven (jeden „self titled” w Roulette Records w 1970 roku i drugi (1971) niewydany do 2008 roku), ale wkrótce potem się rozpadli.
Tommy James and The Shondells zostali wybrani do Michigan Rock and Roll Legends online Hall of Fame w 2006 roku. Cztery z największych hitów zespołu zostały uznane za Legendary Michigan Songs: „Crimson & Clover” w 2010 roku, oraz „Hanky Panky”, „I Think We’re Alone Now”, i „Mony Mony” w 2011 roku.