Krupa dokonał pierwszych nagrań w 1927 roku z zespołem pod kierownictwem Reda McKenzie i gitarzystą Eddiem Condonem. Wraz z innymi nagraniami muzyków z chicagowskiej sceny jazzowej, takich jak Bix Beiderbecke, nagrania te stanowią przykłady jazzu w stylu chicagowskim. Do wpływów Krupy w tym okresie należeli ojciec Ildefonse Rapp i Roy Knapp (obaj byli jego nauczycielami) oraz perkusiści Tubby Hall, Zutty Singleton i Baby Dodds. Press rolls (przeciąganie jednej pałki po główce werbla przy jednoczesnym utrzymywaniu rytmu drugą pałką) były dość powszechną techniką we wczesnych etapach jego rozwoju. Było wielu innych perkusistów (Ray Bauduc, Chick Webb, George Wettling, Dave Tough), którzy wpłynęli na jego podejście do gry na perkusji oraz inni instrumentaliści i kompozytorzy, tacy jak Frederick Delius, którzy wpłynęli na jego podejście do muzyki.
Krupa pojawił się na sześciu nagraniach zespołu Thelma Terry w 1928 roku. W grudniu 1934 roku dołączył do zespołu Benny’ego Goodmana, gdzie jego praca na perkusji uczyniła go narodową gwiazdą. Jego tom-tomowe przerywniki w przeboju „Sing, Sing, Sing” były pierwszymi wydłużonymi solówkami perkusyjnymi nagranymi komercyjnie. Jednak konflikt z Goodmanem skłonił go do opuszczenia zespołu i założenia własnej orkiestry wkrótce po koncercie w Carnegie Hall w styczniu 1938 roku. Pojawił się w filmie Ball of Fire z 1941 roku, w którym wraz z zespołem wykonał rozszerzoną wersję przeboju „Drum Boogie” (skomponowanego przez Krupę i Roya Eldridge’a), śpiewanego przez Marthę Tilton i śpiewanego z ust Barbary Stanwyck.
W 1943 roku Krupa został aresztowany pod sfingowanym zarzutem posiadania narkotyków. Spowodowało to krótki wyrok więzienia i złą sławę. Gene rozpadł orkiestrę i na kilka miesięcy wrócił do zespołu Goodmana. Kiedy Goodman chciał, aby pojechał na trasę koncertową po zachodnim wybrzeżu, Gene (co zrozumiałe) nie zgodził się. Następnie dołączył na kilka miesięcy do zespołu Tommy’ego Dorseya, po czym skompletował swoją kolejną orkiestrę.
Jak kończyły się lata 40-te, Count Basie zamknął swój zespół, a Woody Herman zredukował swój zespół do oktetu. W 1951 r. Krupa na krótko zmniejszył wielkość swojego zespołu do 10-osobowego, a od 1952 r. prowadził tria, potem kwartety, często z Charliem Venturą, a następnie Eddiem Shu na saksofonie tenorowym, klarnecie i harmonijce ustnej. Regularnie występował w koncertach Jazz at the Philharmonic. W latach 50. Krupa powrócił do Hollywood, gdzie wystąpił w filmach The Glenn Miller Story i The Benny Goodman Story. W 1959 roku ukazał się film biograficzny The Gene Krupa Story, w którym Sal Mineo wcielił się w postać Krupy, a w filmie pojawili się Anita O’Day i Red Nichols. W latach 50. i 60. Krupa często występował w Metropole w pobliżu Times Square na Manhattanie. W latach 60. nadal występował w znanych klubach, m.in. w Showboat Lounge w północno-zachodnim Waszyngtonie. Wraz z rówieśnikiem Cozy Cole’em, Gene założył w 1954 roku szkołę muzyczną, która działała do lat 60. Wśród uczniów tej szkoły byli Peter Criss z KISS i Jerry Nolan z The New York Dolls. Doug Clifford z Creedence Clearwater Revival cytowany Krupa jako inspiracja.Krupa był nadal bardzo zajęty we wczesnych latach 70-tych, aż do krótko przed śmiercią. Obejmowało to kilka koncertów reunion oryginalnego Benny Goodman Quartette. 17 kwietnia 1973 roku Gene Krupa Quartet, w którego skład wchodzili Eddie Shu (tenor i klarnet), John Bunch (fortepian), Nabil Totah (bas) i Krupa (perkusja), nagrał w New School występ na żywo z kompozycją Louisa Primy „Sing, Sing, Sing”.
Jego kompozycje, których był autorem lub współautorem, obejmowały „Some Like It Hot” z 1939 roku, „Drum Boogie”, „Boogie Blues”, jego piosenkę tematyczną „Apurksody”, „Ball of Fire”, „Disc Jockey Jump” z Gerrym Mulliganem, „Wire Brush Stomp”, „Hippdeebip”, „Krupa’s Wail”, „Swing is Hee”, „Quit and Roll 'Em” z Samem Donahue oraz „How 'Bout This Mess”.
Bitwy perkusyjne Krupa-RichEdit
Norman Granz zatrudnił Krupę i perkusistę Buddy’ego Richa do swoich koncertów Jazz at the Philharmonic. Dwaj perkusiści wystąpili w Carnegie Hall we wrześniu 1952 roku i zostało to wydane przez Verve jako The Drum Battle. Obaj perkusiści zmierzyli się w wielu transmisjach telewizyjnych i innych miejscach, często grali też w podobnych duetach z perkusistą Cozy Cole’em. Krupa i Rich nagrali wspólnie dwa albumy studyjne: Krupa and Rich (Verve, 1955) oraz Burnin' Beat (Verve, 1962).