En 1967 Robillard fundó el legendario grupo Roomful of Blues liderándolo por una década durante la cual se sucedieron numerosos cambios de integrantes antes de que finalmente él mismo partiera en 1979.

Luego de tocar en la banda del músico de rockabilly Robert Gordon se unió a The Legendary Blues Band en el año 1981. Más tarde Duke formó su propio grupo llamado primeramente The Duke Robillard Band y más tarde rebautizado como Duke Robillard and The Pleasure Kings, realizando su primer álbum para el sello Rounder en 1984. Durante el resto de los '80 grabó profusamente y realizó numerosas giras.

En 1990 Robillard se unió a The Fabulous Thunderbirds reemplazando al mismo Jimmie Vaughan a la vez que continuó tocando y grabando como solista. En 1994 editó el disco Templation para el sello Point Blank/Virgin al que le siguió Duke's Blues dos años más tarde, y después de realizar un disco más para Virgin "Dangerous Place" (1997), Robillard fichó para Shanachie editando en 1999 "New Blues for Modern Man" y "Conversations in Swing Guitar" al siguiente año. El prolífico guitarrista regresó a mediados de 2000 con un nuevo disco titulado "Explorer".

Robillard es un guitarrista talentoso que experimentó en distintos estilos como el jazz y el swing, de hecho entre 1996 y el 2002 grabó solo dos discos de blues a pesar de ser premiado en el 2000 y 2001 con un W.C. Handy Adward como mejor guitarrista de blues. Un franco retorno a sus raíces fué el disco "Living With The Blues" de 2002 editado bajo Story Plain, le siguió "More Conversations in Swing Guitar" (2003), "Exalted Lover" (2003), "Blue Mood: The Songs of T-Bone Walker" (2004), "New Guitar Summit" (2004) y "Steppin' out Live, Live" (2004).