Dopo alcuni andirivieni di membri, si formò la classica formazione di James, Eddie Gray (chitarra), Mike Vale (basso), Ron Rosman (tastiere) e Pete Lucia (batteria). Il gruppo registrò il seguito di “Hanky Panky”. Quando il tentativo di Bob Mack di trovare degli Shondells funzionò in modo involontario, disse a James di un altro disco che aveva trovato nello stesso cestino di dischi usati da cui proveniva “Hanky Panky”: “Say I Am” di Jimmy Gilmer and the Fireballs. L’unica cosa di cui James e i suoi nuovi Shondells erano consapevoli quando entrarono per la prima volta nello studio di registrazione è che qualsiasi cosa avessero registrato avrebbe dovuto suonare simile a “Hanky Panky”, anche se le due canzoni non si assomigliano affatto. Mack fece ascoltare al gruppo il disco di The Fireballs, e loro decisero di registrare la loro versione della canzone. Mack fu accreditato come produttore del primo album del gruppo, Hanky Panky.
Il cantautore Richie Cordell ha scritto (o co-scritto) e prodotto molti dei successi del gruppo, tra cui “I Think We’re Alone Now”, “Mirage”, e “Mony Mony”. La creazione di “Mony Mony” fu uno sforzo di gruppo che coinvolse Cordell, James, il membro della band Shondells Peter Lucia, il produttore Bo Gentry e Bobby Bloom. James e Cordell decisero di creare un singolo party rock, lavorando su tutto tranne che sul titolo della canzone, che sfuggiva loro anche dopo molti sforzi. Quando fecero una pausa dai loro sforzi creativi sulla terrazza dell’appartamento di James, guardarono la grande insegna al neon della Mutual of New York Insurance Company che riportava la sigla della compagnia: M-O-N-Y, che diede il nome alla canzone.
Tommy James and the Shondells produssero anche un video di “Mony Mony” quando la canzone fu un successo. Anche se un certo numero di gruppi musicali aveva già prodotto dei video a quel tempo, non c’era alcun mercato per quel film negli Stati Uniti. Le stazioni televisive non lo mandavano in onda, e fu originariamente proiettato tra due lungometraggi nelle sale cinematografiche in Europa. Il film non fu visto negli Stati Uniti fino alla creazione di MTV.
James fu contattato dal Beatle George Harrison, che all’epoca stava lavorando con un gruppo chiamato Grapefruit. Harrison e il gruppo avevano scritto alcune canzoni che volevano che James considerasse di registrare. Dato che il gruppo aveva deciso di cambiare il suo stile musicale (e lo avrebbe fatto con “Crimson and Clover”: vedi sotto) e il materiale che Harrison e i Grapefruit avevano fornito era nello stile di “Mony Mony”, James rifiutò la loro offerta.
Il music business cambiò dopo il successo di “Mony Mony”. La formattazione dei programmi Top 40, basata su dischi singoli a 45 giri, guidò la musica popolare alla radio. Poche stazioni suonavano brani da album, così la radio, in effetti, “vendeva” dischi singoli per le case discografiche. Nell’agosto 1968, James and the Shondells andarono in campagna elettorale per tre mesi con il candidato alla presidenza, il vicepresidente Hubert Humphrey. Nel frattempo, la musica popolare era diventata guidata dagli album, soppiantando molti artisti i cui singoli erano stati i più venduti. James si rese conto che lui e gli Shondells dovevano diventare un gruppo orientato all’album se volevano sopravvivere nel business, rendendo necessario un cambiamento nel loro stile.
Dopo aver elaborato una strategia di marketing per il loro nuovo suono, James visitò la WLS quando il gruppo era a Chicago per suonare un concerto, portando alla stazione una versione grezza di “Crimson and Clover”. WLS registrò segretamente la musica quando James suonò il suo nastro per loro. Quando James uscì dall’edificio e salì in macchina, la sua radio stava trasmettendo il dub della stazione della canzone non ancora finita. “Crimson and Clover” doveva essere stampato nel modo in cui era stato ascoltato alla stazione radio, e il piano di marketing era ormai tempo e fatica sprecati.
“Crimson and Clover” fu un enorme successo, e il gruppo avrebbe avuto due successi successivi che raggiunsero anche la top 10 della Hot 100, “Sweet Cherry Wine” e “Crystal Blue Persuasion”. James, che ha co-scritto tutte e tre le canzoni, e la sua band hanno fatto abbastanza bene con la transizione da essere invitati ad esibirsi a Woodstock. James descrive così l’invito di Artie Kornfeld: “Artie si alzò e chiese se potevate suonare in questa fattoria di maiali su a nord di New York”. Io dissi: “Cosa?!?”. “Beh, dicono che ci sarà un sacco di gente lì, e sarà uno spettacolo davvero importante”. All’epoca James si trovava alle Hawaii ed era incredulo all’idea che gli venisse chiesto di viaggiare per 6.000 miglia per suonare uno show in un allevamento di maiali nello stato di New York, e disse alla segretaria della Roulette Records: “Se non ci sono io, cominciate senza di noi, per favore”
Nel marzo 1970, dopo altri quattro successi, la droga quasi uccise James quando, ad un concerto, ebbe un collasso e fu dichiarato morto. Tuttavia, sopravvisse, decise di prendersi una pausa dallo studio di registrazione e si trasferì in campagna per recuperare. Gli Shondells, senza James, registrarono due album con il nuovo nome del gruppo Hog Heaven (uno “self titled” su Roulette Records nel 1970 e il secondo (1971) inedito fino al 2008), ma si sciolsero poco dopo.
Tommy James and The Shondells furono votati nella Michigan Rock and Roll Legends online Hall of Fame nel 2006. Quattro dei più grandi successi della band sono stati votati come canzoni leggendarie del Michigan: “Crimson & Clover” nel 2010, e “Hanky Panky”, “I Think We’re Alone Now”, e “Mony Mony” nel 2011.