Sbarbaro è nato a New Orleans da una famiglia immigrata siciliana. All’inizio della sua carriera ha suonato con la Frayle Brothers Band (probabilmente già nel 1911) e la Reliance Band di Papa Jack Laine. Ha lavorato a fianco con Merritt Brunies e Carl Randall. Si unì alla Original Dixieland Jass Band per le loro registrazioni iniziali nel 1917; divenne il suo leader negli anni ’40 e rimase un membro dell’ensemble fino alla sua dissoluzione negli anni ’60. In effetti, era l’unico membro fondatore ancora nel gruppo in quel momento. Sbarbaro ha anche composto per il gruppo, scrivendo la melodia “Mourning Blues” tra le altre.
Più tardi nella vita a New Orleans con Miff Mole, Big Chief Russell, Pee Wee Erwin e Eddie Condon. Ha suonato alla Fiera mondiale di New York nel 1941 e con  Connee Boswell negli anni ’50. Ha lasciato la musica negli anni ’60 a causa della popolarità del rock & roll
Morì nel 1969.
Sbarbaro, oltre ad essere stato il primo batterista registrato, stato anche il primo a modificare il suono dei suoi tamburi inserendo come sordine animali di pelouche all’interno dei tamburi!