Estilísticamente es un guitarrista de Piedmont Blues y Gospel, fué uno de los más reconocidos de su estilo, y su influencia sobre otros guitarristas es incalculable. Parcialmente ciego de nacimiento, perdió su visión totalmente a los diez años. Comenzó a aprender guitarra de forma autodidacta a los 6 y a los 20 ya estaba entre los mejores. Grabó en los años '30 pero nunca recibió royalties y su desconfianza hacia las compañías grabadoras hizo que se mantuviera lejos de un estudio por un período de 20 años con excepción de dos canciones grabadas en 1949.

La música de Davis como la mayor parte del "Piedmont Blues" está basada en el Ragtime, su música es una mezcla de Blues, Gospel, Marchas, Ragtime y Jazz que amalgamó en su propio estilo en una fecha tan temprana como 1911, siendo aun un adolescente.

Se mudó a Durham, NC, en los '20 siendo ya un experimentado músico callejero. Se convirtió allí en un artista sumamente popular, celebrado no solo por su diversidad sino también por su habilidad con la guitarra casi sin parangón en el Blues. Entabló amistad con Blind Boy Fuller y a menudo tocaron juntos. Influenciado fuertemente por su compañero, Fuller se convirtió en principal estrella del "Piedmont Blues". La picardía de Davis en agregar piezas de Gospel y Spirituals a su repertorio callejero para evitar que la policía lo molestara en determinado momento se transformó en vocación, y en 1937 se ordenó como ministro. Después de esto él raramente tocó Blues.

Se mudó a New York City en los '40 y comenzó a predicar y cantar en las esquinas del Harlem. Hacia 1957 grabó siete canciones y fué redescubierto gracias al "Revival" del Folk-Blues de los '60. Se convirtió en el mayor número del circuito folk y tocó regularmente en The Newport Folk Festival y otros festivales similares y comenzó a grabar regularmente.

Le cabe a Davis el adjetivo de ser también un maestro generoso, entre sus alumnos se cuentan a Jorma Kaukonen (guitarista The Jefferson Airplane y Hot Tuna), David Bromberg, Roy Bookbinder, Rory Block, Stefan Grossman y muchos otros. Gary Davis dejó tras sí una importante cantidad de modernas grabaciones, incluso regrabando sus viejos blues y ragtimes para el beneficio de sus estudiantes. Falleció el 5 de mayo de 1972 en Hammonton, NJ.

Aunque toda su obra es exquisita, algunos discos altamente recomendables son "Complete Recordings 1935-1949" de Document, "Complete Early Recordings" de Yazoo. "Blues and Ragtime" y "Demon and Angels; The Ultimate Collection" de Shanachie, y "Live At Newport" de Vanguard, "Harlem Street Singer" y "Say No To The Devil", ambos del sello Bluesville.