Comenzó su carrera en Arkansas y el Delta del Mississippi como un guitarrista acústico recorriendo los estados del sur desde 1933 hasta 1940. Se mudó a Chicago en los '40 y comenzó a tocar en la Maxwell Street con su primo Moody Jones y Baby Face Leroy Foster. Jones estuvo entre los músicos que hicieron la transición al estilo eléctrico de "post-guerra" de Chicago. Grabó con Snooky Pryor y Sunnyland Slim durante los '40 y para los sellos Chess y JOB a principios de los '50. El estilo de Jones era oscuro y melancólico, anotó algunos hits con canciones como "Hard Times" y "Dark Road". Permaneció activo en el blues de Chicago hasta su muerte ocurrida el 19 de diciembre de 1989 en Chicago.

Sus mejores discos los grabó entre 1951 y 1953 (cabe destacar sus álbumes Blues Is Killing Me y On The Road Again), pero sus participación en el film de Harley Cokliss Chicago Blues (1970) dejó un brillante testimonio que ayudó a reconstruir la atmósfera del blues de la Windy City. Otro disco destacado es "The Masters Of Modern Blues Vol 3" del sello Testament y junto a Sunnyland Slim, Honeyboy Edwards, Big Walter Horton y Kansas City Red en "Old Friends" de Earwig. También se lo puede escuchar junto a Honeyboy Edwards en en el excelente "Delta Bluesman".