Gill debutó en la escena nacional con la banda de country rock Pure Prairie League en 1979, apareciendo en el álbum Can’t Hold Back de esa banda. Es el cantante principal de su canción «Let Me Love You Tonight». Mark Knopfler le invitó una vez a unirse a Dire Straits, pero declinó la oferta (aunque cantó de apoyo en el álbum On Every Street de Dire Straits).
Gill dejó Pure Prairie League en 1981 para unirse a Cherry Bombs, la banda de escenario que respaldaba a Rodney Crowell. Allí trabajó con Tony Brown y Emory Gordy Jr, ambos producirían más tarde muchos de sus álbumes. Grabó un álbum de bluegrass, Here Today, con David Grisman y sus amigos, antes de firmar un contrato en solitario con la RCA, con la que consiguió algunos éxitos, como los singles «Victim of Life’s Circumstance» (Top 40 de country en Estados Unidos) y el Top Ten de country con «If It Weren’t for Him», «Oklahoma Borderline» y «Cinderella». Sin embargo, sus álbumes sólo lograron unas ventas moderadas y en 1989, Gill dejó la RCA para firmar con MCA Records. Aquí, reunido con Tony Brown como productor, vendió más de un millón de copias de su debut en el sello, When I Call Your Name, de 1989, del que varias canciones, incluida la que da título al disco, entraron en el Top Ten / Top Twenty de las listas de Country de Estados Unidos. Le siguieron los álbumes Pocket Full of Gold (1991) y I Still Believe in You, cuya canción principal alcanzó el número 1 en las listas de Country de Estados Unidos.
A lo largo de los años 90 y en la década de 2000, Gill siguió publicando álbumes de gran éxito, aprovechando la calidad virtuosa de su forma de tocar la guitarra eléctrica y acústica, su voz de tenor pura, aguda y conmovedora, y la excelente calidad de sus composiciones. Según su biografía en AllMusic, Gill ha ganado más premios de la CMA que ningún otro intérprete en la historia, y a partir de 2018 también ha ganado 21 premios Grammy, lo que representa la mayor cantidad de la historia para un artista country.
Gill ha sido miembro del Grand Ole Opry desde el 10 de agosto de 1991. Celebró su 25º aniversario en el Opry con un espectáculo de homenaje el 13 de agosto de 2016.
En 1997, recibió el Golden Plate Award de la American Academy of Achievement.
En 2010, Gill se unió oficialmente al grupo de country swing The Time Jumpers.
En julio de 2011, Gill apareció como invitado en el programa de concursos de noticias de NPR Wait, Wait…Don’t Tell Me. También en 2011, apareció en el segundo de los dos álbumes de tributo al bluegrass de la banda de rock británica Moody Blues: Moody Bluegrass TWO… Much Love (2011). En mayo de 2011, Carrie Underwood fue una de las siete mujeres que fueron homenajeadas por la Academia de Música Country en la Girls’ Night Out: Superstar Women of Country especial. En la ceremonia, Gill presentó a Underwood y le entregó el premio especial. Cantó uno de sus éxitos, «Jesus, Take The Wheel», y se unió a Underwood en una interpretación de «How Great Thou Art». El vídeo de la actuación se hizo viral en dos días.
En febrero de 2012, Gill anunció: «Por primera vez en 30 años, no tengo un contrato discográfico. No sé si quiero uno»
En marzo de 2012, actuó en el Southern Kentucky Performing Arts Center en Bowling Green, Kentucky, para su noche de apertura. Fue reclutado para el espectáculo a última hora cuando la cantante LeAnn Rimes canceló el día anterior a la inauguración. Gill condujo desde Nashville esa noche sólo con su guitarra y tocó ante las repetidas ovaciones de una sala llena de gente de pie.
En abril de 2012, se confirmó que Gill había estado trabajando con Bonnie Tyler en su próximo álbum, interpretando un dúo con ella titulado «What You Need from Me».
En junio de 2012, estuvo de gira e interpretando sólo canciones de bluegrass.
Gill recibió la estrella número 2.478 del Paseo de la Fama de Hollywood el 6 de septiembre de 2012.
El 15 de octubre de 2012, se anunció que Gill aparecería en una canción de Kelly Clarkson titulada «Don’t Rush», que aparece en el primer álbum Greatest Hits de Clarkson. El álbum fue certificado de oro por la RIAA y ha vendido 509.093 copias a partir del 13 de octubre de 2013.
El 5 de noviembre de 2014, en la 48ª edición de los premios anuales de la CMA, Gill recibió el premio Irving Waugh a la excelencia en la música country. Era la cuarta vez que se concedía el premio desde su creación en 1983. El anterior artista de música country que recibió el premio fue Johnny Cash.
En 2016, Gill fue seleccionado como uno de los 30 artistas que actuaron en Forever Country, que celebra los 50 años de los premios CMA.
En su carrera, Gill ha vendido más de 26 millones de álbumes y ha acumulado más de 50 éxitos en el Top 40.
Gill se unió a los Eagles, junto a Deacon Frey, tras la muerte de Glenn Frey. Gill actúa como co-guitarrista principal, además de proporcionar guitarras rítmicas, cantar de fondo y compartir ocasionalmente la voz principal con Deacon en lugar del papel de Glenn Frey. Inicialmente comenzó a girar con la banda en 2017, y continúa sirviendo como miembro de la banda.
Gill toca la guitarra eléctrica como músico invitado en la canción «Love Me» de Aaron Lewis, que aparece en el álbum 2019: State I’m In.