Après quelques allées et venues de membres, la formation classique de James, Eddie Gray (guitare), Mike Vale (basse), Ron Rosman (claviers) et Pete Lucia (batterie) est formée. Le groupe enregistre une suite à « Hanky Panky ». Lorsque la tentative de Bob Mack de trouver des Shondells a fonctionné par inadvertance, il a parlé à James d’un autre disque qu’il avait trouvé dans la même corbeille de disques usagés d’où provenait « Hanky Panky » : « Say I Am » de Jimmy Gilmer and the Fireballs. La seule chose dont James et ses nouveaux Shondells sont conscients lorsqu’ils entrent dans le studio d’enregistrement pour la première fois, c’est que tout ce qu’ils enregistrent doit ressembler à « Hanky Panky », bien que les deux chansons ne se ressemblent en rien. Mack fait écouter au groupe l’enregistrement de The Fireballs, et ils décident d’enregistrer leur version de la chanson. Mack est crédité comme producteur du premier album du groupe, Hanky Panky.
L’auteur-compositeur Richie Cordell a écrit (ou coécrit) et produit de nombreux tubes du groupe, parmi lesquels « I Think We’re Alone Now », « Mirage » et « Mony Mony ». La création de « Mony Mony » est un effort collectif impliquant Cordell, James, Peter Lucia, membre du groupe Shondells, le producteur Bo Gentry et Bobby Bloom. James et Cordell ont entrepris de créer un single de rock festif, en travaillant sur tout sauf sur le titre de la chanson, qui leur échappait même après de nombreux efforts. Lorsqu’ils font une pause dans leurs efforts créatifs sur la terrasse de l’appartement de James, ils regardent la grande enseigne au néon de la Mutual of New York Insurance Company portant l’abréviation de la compagnie : M-O-N-Y, qui a fourni le nom de la chanson.
Tommy James et les Shondells ont également produit une vidéo de « Mony Mony » lorsque la chanson a été un succès. Même si un certain nombre de groupes musicaux avaient déjà produit des vidéos à cette époque, il n’y avait pas du tout de marché pour ce film aux États-Unis. Les chaînes de télévision n’ont pas voulu le diffuser et il a d’abord été projeté entre deux films dans des salles de cinéma en Europe. Le film n’a pas été vu aux États-Unis avant la création de MTV.
James a été contacté par le Beatle George Harrison, qui travaillait avec un groupe appelé Grapefruit à l’époque. Harrison et le groupe avaient écrit quelques chansons qu’ils voulaient que James envisage d’enregistrer. Comme le groupe a pris la décision de changer de style musical (et le fera avec « Crimson and Clover » : voir ci-dessous) et que le matériel fourni par Harrison et Grapefruit était dans le style de « Mony Mony », James a refusé leur offre.
Le business de la musique a changé après le succès de « Mony Mony ». Le formatage des programmes Top 40, basé sur les disques 45 tours simples, a conduit la musique populaire à la radio. Peu de stations diffusaient des coupures d’albums, la radio » vendait » donc, en fait, des disques individuels pour les maisons de disques. En août 1968, James and the Shondells partent en campagne pendant trois mois avec le candidat à la présidence, le vice-président Hubert Humphrey. Entre-temps, la musique populaire s’est orientée vers les albums, évinçant de nombreux artistes dont les singles avaient été les meilleurs vendeurs. James a réalisé que lui et les Shondells devaient devenir un groupe orienté vers les albums s’ils voulaient survivre dans le milieu, ce qui nécessitait un changement de style.
Après avoir élaboré une stratégie de marketing pour leur nouveau son, James a rendu visite à WLS lorsque le groupe était à Chicago pour donner un concert, apportant à la station un montage brut de « Crimson and Clover ». WLS a enregistré secrètement la musique lorsque James leur a fait écouter sa cassette. Le temps que James sorte de l’immeuble et monte dans sa voiture, la radio diffusait la version doublée par la station de la chanson pas encore terminée. « Crimson and Clover » devait être pressée de la manière dont elle était entendue sur la station de radio, et le plan marketing était maintenant une perte de temps et d’efforts.
« Crimson and Clover » a été un énorme succès, et le groupe aura deux succès suivants qui ont également atteint le top 10 du Hot 100, « Sweet Cherry Wine » et « Crystal Blue Persuasion ». James, qui a coécrit ces trois chansons, et son groupe ont suffisamment bien réussi la transition pour être invités à se produire à Woodstock. James décrit l’invitation d’Artie Kornfeld comme suit : « Artie s’est levé et a demandé si vous pouviez jouer dans cette porcherie au nord de l’état de New York. » J’ai dit, « Quoi ? !? » « Eh bien, ils disent qu’il y aura beaucoup de monde là-bas, et que ce sera un concert très important. » À l’époque, James était à Hawaï et était incrédule à l’idée qu’on lui demande de parcourir 6 000 miles pour jouer un spectacle dans une porcherie du nord de l’État de New York, disant à la secrétaire de Roulette Records : « Si je ne suis pas là, commencez sans nous, voulez-vous ? »
En mars 1970, après quatre autres succès, la drogue a presque tué James lorsque, lors d’un concert, il s’est effondré et a été déclaré mort. Cependant, il survit, décide de faire une pause dans le studio d’enregistrement, et s’installe à la campagne pour récupérer. Les Shondells, sans James, enregistrent deux albums sous le nouveau nom de groupe Hog Heaven (un « self titled » sur Roulette Records en 1970 et le 2e (1971) inédit jusqu’en 2008), mais se dissolvent peu après.
Tommy James and The Shondells a été élu au Michigan Rock and Roll Legends online Hall of Fame en 2006. Quatre des plus grands succès du groupe ont été élus chansons légendaires du Michigan : » Crimson & Clover » en 2010, et » Hanky Panky « , » I Think We’re Alone Now » et » Mony Mony » en 2011.