Gill a fait ses débuts sur la scène nationale avec le groupe country rock Pure Prairie League en 1979, apparaissant sur l’album Can’t Hold Back de ce groupe. Il est le chanteur principal sur leur chanson « Let Me Love You Tonight ». Mark Knopfler l’a un jour invité à rejoindre Dire Straits, mais il a décliné l’offre (bien qu’il ait chanté en renfort sur l’album On Every Street de Dire Straits).
Gill a quitté Pure Prairie League en 1981 pour rejoindre Cherry Bombs, le groupe de scène qui accompagnait Rodney Crowell. Il y travaille avec Tony Brown et Emory Gordy Jr, qui produiront plus tard nombre de ses albums. Il a enregistré un album de bluegrass, Here Today, avec David Grisman et ses amis avant de signer un contrat solo avec RCA avec qui il a connu un certain succès, notamment avec les singles « Victim of Life’s Circumstance » (U.S. Country Top 40) et le Country Top Ten avec « If It Weren’t for Him », « Oklahoma Borderline » et « Cinderella ». Cependant, ses albums ne se vendent que modérément et en 1989, Gill quitte RCA pour signer avec MCA Records. C’est là qu’il retrouve Tony Brown comme producteur et vend plus d’un million d’exemplaires de son premier album, When I Call Your Name, dont plusieurs chansons, dont la chanson-titre, entrent dans le Top 10 et le Top 20 des charts country américains. Ce succès a été suivi par les albums au succès similaire, Pocket Full of Gold (1991) et I Still Believe in You, dont la chanson titre s’est hissée au numéro 1 du Country américain.
Tout au long des années 1990 et dans les années 2000, Gill a continué à sortir des albums à grand succès, capitalisant sur la qualité virtuose de son jeu de guitare électrique et acoustique, sa voix de ténor pure, aiguë et soul, et l’excellente qualité de son écriture. Selon sa biographie sur AllMusic, Gill a remporté plus de CMA Awards que n’importe quel interprète de l’histoire, et en 2018, il a également remporté 21 Grammy Awards, ce qui représente le plus grand nombre jamais atteint par un artiste country.
Gill est membre du Grand Ole Opry depuis le 10 août 1991. Il a célébré son 25e anniversaire à l’Opry avec un spectacle hommage le 13 août 2016.
En 1997, il a reçu le Golden Plate Award de l’American Academy of Achievement.
En 2010, Gill a officiellement rejoint le groupe de country swing The Time Jumpers.
En juillet 2011, Gill est apparu en tant qu’invité dans l’émission de quiz sur l’actualité de NPR, Wait, Wait…Don’t Tell Me. Toujours en 2011, il est apparu sur le deuxième de deux albums d’hommage bluegrass pour le groupe de rock britannique les Moody Blues : Moody Bluegrass TWO… Much Love (2011). En mai 2011, Carrie Underwood a été l’une des sept femmes à être honorées par l’Academy of Country Music lors de la soirée Girls’ Night Out : Superstar Women of Country special. Lors de la cérémonie, Gill a présenté Underwood et lui a remis le prix spécial. Il a chanté l’un de ses tubes, « Jesus, Take The Wheel », et a rejoint Underwood pour une interprétation de « How Great Thou Art ». La vidéo de la performance est devenue virale en deux jours.
En février 2012, Gill a annoncé : « Pour la première fois en 30 ans, je n’ai pas de contrat de disque. Je ne sais pas si j’en veux un. »
En mars 2012, il s’est produit au Southern Kentucky Performing Arts Center à Bowling Green, Kentucky, pour sa soirée d’ouverture. Il a été recruté pour le spectacle à la 11e heure lorsque la chanteuse LeAnn Rimes a annulé la veille de l’ouverture. Gill est venu en voiture de Nashville cette nuit-là avec seulement sa guitare et a joué sous les ovations répétées d’une salle debout.
En avril 2012, il a été confirmé que Gill avait travaillé avec Bonnie Tyler sur son prochain album, interprétant un duo avec elle intitulé « What You Need from Me ».
En juin 2012, il était en tournée et interprétait uniquement des chansons bluegrass.
Gill a reçu la 2 478e étoile du Hollywood Walk of Fame le 6 septembre 2012.
Le 15 octobre 2012, il a été annoncé que Gill figurerait dans une chanson de Kelly Clarkson intitulée « Don’t Rush », qui figure sur le premier album Greatest Hits de Clarkson. L’album a été certifié Or par la RIAA et s’est vendu à 509 093 exemplaires au 13 octobre 2013.
Le 5 novembre 2014, lors des 48e CMA Awards annuels, Gill a reçu le prix Irving Waugh pour l’excellence en musique country. Ce n’était que la quatrième fois que ce prix était décerné depuis sa création en 1983. Le précédent artiste de musique country à recevoir ce prix était Johnny Cash.
En 2016, Gill a été sélectionné comme l’un des 30 artistes à se produire dans l’émission Forever Country, qui célèbre les 50 ans des CMA Awards.
Dans sa carrière, Gill a vendu plus de 26 millions d’albums et accumulé plus de 50 succès au Top 40.
Gill a rejoint les Eagles, aux côtés de Deacon Frey, après le décès de Glenn Frey. Gill sert de co-guitariste principal, en plus de fournir des guitares rythmiques, de chanter en arrière-plan et de partager occasionnellement le chant principal avec Deacon à la place du rôle de Glenn Frey. Il a initialement commencé à tourner avec le groupe en 2017, et continue à servir en tant que membre du groupe.
Gill joue de la guitare électrique en tant que musicien invité sur la chanson « Love Me » d’Aaron Lewis, qui apparaît sur l’album 2019 : State I’m In.