L’amour de Ben Riley pour l’accompagnement était si prononcé qu’il n’a enregistré pendant sa longue carrière que seulement trois albums en tant que leader. « Weaver of Dreams », son premier album, enregistré à l’âge de 60 ans, mettait en vedette le bassiste Buster Williams et le saxophoniste Ralph Moore. Ses autres réalisations personnelles, « Memories of T » (2006) et « Grown Folks Music » (2012) sont de la même veine.
Avant de rejoindre le groupe de Thelonious Monk, l’une des prestations les plus abouties de Ben Riley demeure celle réalisée en 1962, lors de l’enregistrement de l’album canonique, The Bridge de Sonny Rollins. Le batteur discret participait à la première déclaration artistique de Rollins depuis son retour d’un congé sabbatique pendant lequel il pratiquait presque quotidiennement sur le pont de Williamsburg. Loin de se laissé intimidé par la gravité du moment, Ben Riley fit montre, tout au long de cette session, d’un dynamisme rythmique remarquable. Pendant, notamment, le solo de Rollins sur «John S.», il travaille comme un puncheur sur la cymbale tout en balayant sur la caisse claire comme s’il lui donnait des coups de pinceau.
Cette excentricité rythmique subtile de Ben Riley était perceptible au moment de ses premiers enregistrements avec Johnny Griffin en 1960, mais n’était pas encore vraiment affirmé avant son engagement au sein du quartet de Thelonious Monk, en 1964.
Dès sa prise de fonction au sein du Thelonious Monk Quartet, il enregistra « it’s Monk’s Time », sans avoir joué ni même répété avec le groupe du génial pianiste. Grace à sa faculté d’adaptation, il s’intégra et s’installa rapidement dans ce décor musical très novateur. Même sur une composition aussi inédite que «Brake’s Sake», Ben Riley semble savoir instinctivement là où il faut mettre l’accent et là où il faut maintenir sa respiration.