Auteur de plus de quatorze recueils de poésie, Joe Ross est né en Pennsylvanie et a étudié à l'université Temple de Pennsylvanie. Il ne tarde pas à déménager à Washington, où il écrit son premier livre, Guards of the Heart, qui se compose de quatre pièces de théâtre sous forme poétique.

À Washington, il travaille au John F. Kennedy Center for the Performing Arts et déploie une activité intense dans les milieux culturels de la ville. De 1994 à 1997, il préside le conseil d'administration du Comité de la poésie de la Folger Shakespeare Library. Il est également directeur littéraire du bimensuel culturel The Washington Review de 1991 à 1997 et cofondateur de la série de lectures de poésie In Your Ear au centre culturel du District de Columbia. Pendant ces années, Ross continue de publier de la poésie, entre autres How to Write; or, I used to be in love with my jailer (Texture Press, 1992), An American Voyage (Sun & Moon Press, 1993), Push (Leave Books, 1994), De-flections (Potes and Poets, 1994), Full Silence (Upper Limit Music, 1995), et The Fuzzy Logic Series (Texture Press, 1996).

Avec sa structure disjointe, ses jeux de mots et ses devinettes linguistiques, et bien qu’elle ait de nombreux points communs avec celle des poètes Language, sa poésie cherche à atteindre un large public. Nombreux sont les textes de Ross à être subliminalement politiques tout en évoquant l’amour et les relations entre individus. En particulier, American Voyage évoque l’idéalisme de la culture américaine et son incapacité à se montrer à la hauteur de ses idéaux.

En 1997, Ross reçoit une bourse de la National Endowment for the Arts et va vivre à San Diego, où il travaille pour la Commission des arts et de la culture de la ville de San Diego. En 1999, il quitte ce poste afin de mettre en pratique sa poétique et de travailler directement dans le monde de la politique où il occupe des positions d’importance. Il continue également de se montrer très actif sur la scène culturelle en tant que membre du conseil d’administration de l’Institut des arts de San Diego et cofondateur de la série de lectures Beyond the Page dans la même ville. Deux nouveaux livres paraissent : The Wood Series (Seeing Eye Books, 1997) et EQUATIONS=equals (Green Integer, 2004). Il reçoit le premier de ses trois prix de poésie Gertrude-Stein en 2003.

À partir de 2004, il vit à Paris et continue de publier tout en travaillant dans la communication et pour le changement social. Ses titres les plus récents sont 1000 Folds, (Chax Press, 2014), Wordlick (Green Integer, 2011), Strata (Dusie Press, 2008) et Strati (éd. bilingue italien-anglais, La Camera Verde, 2007).