Na een aantal komen en gaan van leden werd de klassieke bezetting van James, Eddie Gray (gitaar), Mike Vale (bas), Ron Rosman (keyboards) en Pete Lucia (drums) gevormd. De groep nam een vervolgnummer op “Hanky Panky” op. Toen Bob Mack’s poging om wat Shondells te vinden per ongeluk lukte, vertelde hij James over een andere plaat die hij in dezelfde tweedehands platenbak had gevonden waar “Hanky Panky” uit kwam: “Say I Am” van Jimmy Gilmer and the Fireballs. Het enige waar James en zijn nieuwe Shondells zich van bewust waren toen ze voor het eerst de opnamestudio ingingen, was dat wat ze opnamen ook moest klinken als “Hanky Panky”, hoewel de twee nummers in niets op elkaar lijken. Mack speelde de plaat van The Fireballs voor de groep, en ze besloten hun versie van het nummer op te nemen. Mack werd genoemd als de producer voor het eerste album van de groep, Hanky Panky.
Songwriter Richie Cordell schreef (of schreef mee) en produceerde veel van de hits van de groep, waaronder “I Think We’re Alone Now”, “Mirage”, en “Mony Mony”. De creatie van “Mony Mony” was een groepswerk van Cordell, James, Shondells bandlid Peter Lucia, producer Bo Gentry, en Bobby Bloom. James en Cordell wilden een party rock single maken en werkten alles uit behalve de titel van het nummer, die hen zelfs na veel moeite ontglipte. Toen ze een pauze namen van hun creatieve inspanningen op het terras van James’ appartement, keken ze omhoog naar het grote neonbord van de Mutual of New York Insurance Company met de afkorting voor het bedrijf:
Tommy James and the Shondells produceerden ook een “Mony Mony” video toen het nummer een hit werd. Hoewel een aantal muziekgroepen tegen die tijd al video’s hadden geproduceerd, was er in de VS helemaal geen markt voor die film. Televisiestations wilden de film niet uitzenden, en hij werd oorspronkelijk vertoond tussen dubbele films in bioscoopzalen in Europa. De film was in de VS pas te zien na de oprichting van MTV.
James werd benaderd door Beatle George Harrison, die op dat moment werkte met een groep die Grapefruit heette. Harrison en de groep hadden een aantal nummers geschreven die ze door James wilden laten opnemen. Omdat de groep tot een besluit kwam om hun muzikale stijl te veranderen (en dat zou doen met “Crimson and Clover”: zie hieronder) en het materiaal dat Harrison en Grapefruit verstrekten in de stijl van “Mony Mony” was, sloeg James hun aanbod af.
De muziekbusiness veranderde na het succes van “Mony Mony”. Top 40 programmaformats, gebaseerd op 45-toeren single platen, dreven populaire muziek op de radio aan. Weinig stations draaiden nummers van platenalbums, zodat de radio in feite platen “verkocht” voor de platenmaatschappijen. In augustus 1968 gingen James and the Shondells drie maanden lang op campagne met presidentskandidaat vice-president Hubert Humphrey. Intussen was de populaire muziek album-gedreven geworden, waardoor vele artiesten, wier singles toppers waren geweest, verdrongen werden. James realiseerde zich dat hij en de Shondells een album-georiënteerde groep moesten worden als ze wilden overleven in de business, wat een verandering in hun stijl noodzakelijk maakte.
Na het uitwerken van een marketingstrategie voor hun nieuwe geluid, bezocht James WLS toen de groep in Chicago was om een concert te geven, en bracht een ruwe versie van “Crimson and Clover” mee naar het station. WLS nam de muziek stiekem op toen James zijn tape voor hen afspeelde. Tegen de tijd dat James het gebouw uit was en in de auto zat, speelde de radio de dub van het station van het nog niet afgewerkte nummer. “Crimson and Clover” moest geperst worden zoals het op het radiostation te horen was, en het marketingplan was nu verspilde tijd en moeite.
“Crimson and Clover” was een enorm succes, en de groep zou twee vervolghits hebben die ook de top 10 van de Hot 100 haalden, “Sweet Cherry Wine” en “Crystal Blue Persuasion”. James, die meeschreef aan alle drie van die nummers, en zijn band deden het goed genoeg met de overgang om te worden uitgenodigd om op Woodstock op te treden. James beschrijft Artie Kornfeld’s uitnodiging als volgt: “Artie was op en vroeg of je kon spelen op een varkensboerderij in het noorden van New York.” Ik zei, “Wat?!?” “Nou, ze zeggen dat er veel mensen zullen zijn, en dat het een heel belangrijke show zal zijn.” James was op dat moment in Hawaii en was ongelovig over het feit dat hij werd gevraagd om 6000 mijl te reizen om een show te spelen op een varkensboerderij in het noorden van New York. Hij zei tegen de secretaresse van Roulette Records: “Als ik er niet ben, begin dan zonder ons, wil je?”
In maart 1970, na nog vier hits, werd James bijna gedood door drugs toen hij tijdens een concert in elkaar zakte, en dood werd verklaard. Hij overleefde het echter, besloot een pauze in te lassen in de opnamestudio en verhuisde naar het platteland om bij te komen. The Shondells, zonder James, namen twee albums op onder de nieuwe groepsnaam Hog Heaven (een “self titled” op Roulette Records in 1970 en de 2e (1971) onuitgebracht tot 2008), maar gingen kort daarna uit elkaar.
Tommy James and The Shondells werden in 2006 gekozen in de Michigan Rock and Roll Legends online Hall of Fame. Vier van de grootste hits van de band zijn verkozen tot Legendary Michigan Songs: “Crimson & Clover” in 2010, en “Hanky Panky”, “I Think We’re Alone Now”, en “Mony Mony” in 2011.