La banda se formó en 1989, cuando los miembros de los Salmon Heads, Vince Herman, Dave Dorian y Gerry Cavagnaro, se unieron a los miembros de la Left Hand String Band, Drew Emmitt y Glenn Keefe, para tocar en un espectáculo de Nochevieja en 1989 en el Eldo de Crested Butte. Herman había tocado anteriormente con Emmitt en la Left Hand String Band, y había llamado a sus antiguos compañeros de banda Emmitt y Keefe para que sustituyeran a algunos miembros ausentes de los Salmon Heads para el espectáculo de Nochevieja. Eligieron el nombre de Leftover Salmon de camino al concierto.
La sinergia funcionó y el resultado fue Leftover Salmon. La formación cambió significativamente a lo largo de los años, pero los «tres grandes» -Drew Emmitt, Vince Herman y Mark Vann- siguieron siendo el corazón de la banda hasta la muerte de Vann en 2002.
Tras el lanzamiento independiente de Bridges to Bert en 1993 y la continuación en directo de Ask the Fish en 1995, Leftover Salmon consiguió un puesto en la gira del festival H.O.R.D.E. y un contrato con Hollywood Records. Su debut en Hollywood y su segundo álbum de estudio, Euphoria, con el teclista invitado Pete Sears, siguieron definiendo su sonido ecléctico e introdujeron muchas canciones que se convirtieron en sus más notables. Publicaron cuatro álbumes con el sello propiedad de Disney. En el año 2000, Bill McKay, anteriormente de la Derek Trucks Band, se unió a la banda en los teclados y la voz y la banda grabó varias de sus canciones. Permaneció con la banda hasta finales de 2011.
En marzo de 2002, el miembro fundador y banjoist Mark Vann murió de cáncer. Le sucedieron Matt Flinner y luego Noam Pikelny.
En 2004, la banda anunció que entraba en pausa a finales de ese año.
En noviembre de 2006 se publicó en DVD una película documental de Leftover Salmon nominada a un premio, titulada Years in Your Ears.
Leftover Salmon se reunió en 2007 y realizó seis actuaciones, incluyendo el High Sierra Music Festival en Quincy, California, el All Good Festival en Virginia Occidental, así como actuaciones en Denver y Boulder, Colorado, a finales de diciembre. Leftover Salmon marcó su regreso no oficial a los escenarios con una actuación en el Telluride Bluegrass Festival el domingo 24 de junio de 2007, como «Drew Emmitt and Vince Herman and Friends». Fueron presentados por Jeff Austin, de Yonder Mountain String Band, con la frase: «Sabemos lo que puede decir el programa, pero creo que todos sabemos realmente lo que pasa aquí»
A pesar de sus diversos proyectos paralelos de éxito, Leftover Salmon tocó siete veces durante el verano de 2008 y 2009. Para una actuación especial de Año Nuevo, la banda celebró sus 20 años como grupo volviendo al lugar de su primer concierto en Crested Butte, Colorado: El Eldo. La banda tocó cuatro shows en Denver y Boulder, Colorado, mientras celebraban su 20 aniversario. Desde que Andy Thorn pasó a ocupar el papel de banjo, la banda ha estado girando más de lo habitual con pequeñas carreras por todo el país.
El 22 de mayo de 2012, la banda lanzó su primer álbum desde su parón. El álbum se llamó Aquatic Hitchhiker. Le siguió una extensa gira promocional que incluyó el Summer Camp Music Festival y el Telluride Bluegrass Festival.
A partir del 19 de junio de 2012, la banda es la «banda de la casa» destacada en el Whales Tail Bar de Breckenridge, Colorado, en los episodios de Deadliest Catch – After the Catch.
En 2015, lanzaron el álbum de estudio High Country y al año siguiente publicaron un álbum doble recopilatorio de actuaciones en directo con el título 25. Publicaron su siguiente álbum de estudio Something Higher, en 2018.
A medida que la banda se acercaba a su 30º aniversario fueron perfilados en el libro Leftover Salmon: Thirty Years of Festival! del autor Tim Newby. El libro relataba la larga e influyente historia de la banda y su papel en el desarrollo de las escenas jamband y jamgrass. En 2019, el teclista Erik Deutsch dejó el grupo para unirse a las Dixie Chicks.