Gill debutta sulla scena nazionale con il gruppo country rock Pure Prairie League nel 1979, apparendo nell’album Can’t Hold Back di quel gruppo. È il cantante della loro canzone “Let Me Love You Tonight”. Mark Knopfler una volta lo invitò ad unirsi ai Dire Straits, ma lui declinò l’offerta (anche se cantò di riserva nell’album On Every Street dei Dire Straits).
Gill lasciò i Pure Prairie League nel 1981 per unirsi ai Cherry Bombs, la band che accompagnava Rodney Crowell. Lì lavorò con Tony Brown e Emory Gordy Jr, entrambi i quali avrebbero poi prodotto molti dei suoi album. Registrò un album bluegrass, Here Today, con David Grisman e amici prima di firmare un contratto da solista con la RCA con la quale ottenne un certo successo tra cui i singoli, “Victim of Life’s Circumstance” (U.S. Country Top 40) e Country Top Ten con “If It Weren’t for Him”, “Oklahoma Borderline” e “Cinderella”. Tuttavia i suoi album ottennero solo vendite moderate e nel 1989, Gill lasciò la RCA per firmare con la MCA Records. Qui, riunito con Tony Brown come produttore, vendette oltre un milione di copie del suo debutto con l’etichetta, When I Call Your Name del 1989, di cui diverse canzoni, tra cui la title track, entrarono nella Top Ten / Top Twenty delle classifiche country statunitensi. A questo seguirono gli album di analogo successo Pocket Full of Gold (1991) e I Still Believe in You, di cui la title track entrò nella U.S. Country No. 1.
Per tutti gli anni ’90 e nel 2000 Gill continuò a pubblicare album di grande successo, capitalizzando sulla qualità virtuosistica della sua chitarra elettrica e acustica, sulla sua voce tenorile pura, alta e soul, e sull’eccellente qualità del suo songwriting. Secondo la sua biografia su AllMusic, Gill ha vinto più CMA Awards di qualsiasi altro artista nella storia, e a partire dal 2018 ha anche vinto 21 Grammy Awards, che rappresenta il maggior numero di sempre di un artista country.
Gill è membro del Grand Ole Opry dal 10 agosto 1991. Ha celebrato il suo 25° anniversario dell’Opry con uno spettacolo tributo il 13 agosto 2016.
Nel 1997, ha ricevuto il Golden Plate Award dell’American Academy of Achievement.
Nel 2010, Gill è entrato ufficialmente nel gruppo country swing The Time Jumpers.
Nel luglio 2011, Gill è apparso come ospite nel quiz show di notizie della NPR Wait, Wait…Don’t Tell Me. Sempre nel 2011, è apparso sul secondo di due album di tributo bluegrass per il gruppo rock britannico dei Moody Blues: Moody Bluegrass TWO… Much Love (2011). Nel maggio 2011, Carrie Underwood è stata una delle sette donne ad essere premiata dall’Academy of Country Music alla Girls’ Night Out: Superstar Women of Country special. Alla cerimonia, Gill ha introdotto Underwood e le ha consegnato il premio speciale. Ha cantato uno dei suoi successi, “Jesus, Take The Wheel”, e si è unito alla Underwood in una performance di “How Great Thou Art”. Il video della performance è diventato virale nel giro di due giorni.
Nel febbraio 2012, Gill ha annunciato: “Per la prima volta in 30 anni, non ho un contratto discografico. Non so se ne voglio uno”
Nel marzo 2012, si è esibito al Southern Kentucky Performing Arts Center di Bowling Green, Kentucky, per la sua serata di apertura. È stato reclutato per lo spettacolo all’undicesima ora quando la cantante LeAnn Rimes ha annullato il giorno prima dell’apertura. Gill ha guidato da Nashville quella notte con solo la sua chitarra e ha giocato a ripetute standing ovation da una sala in piedi solo casa.
Nell’aprile 2012, è stato confermato che Gill aveva lavorato con Bonnie Tyler sul suo prossimo album, eseguendo un duetto con lei dal titolo “What You Need from Me”.
Nel giugno 2012, era in tour ed eseguiva solo canzoni bluegrass.
Gill ha ricevuto la 2.478° stella della Hollywood Walk of Fame il 6 settembre 2012.
Il 15 ottobre 2012, è stato annunciato che Gill sarebbe stato presente in una canzone di Kelly Clarkson intitolata “Don’t Rush”, che appare sul primo album Greatest Hits della Clarkson. L’album è stato certificato Oro dalla RIAA e ha venduto 509.093 copie al 13 ottobre 2013.
Il 5 novembre 2014, alla 48ª edizione dei CMA Awards Gill ha ricevuto il premio Irving Waugh per l’eccellenza nella musica country. Questa è stata solo la quarta volta che il premio è stato concesso dal suo inizio nel 1983. Il precedente artista di musica country a ricevere il premio è stato Johnny Cash.
Nel 2016, Gill è stato selezionato come uno dei 30 artisti per esibirsi in Forever Country, che celebra i 50 anni dei CMA Awards.
Nella sua carriera Gill ha venduto più di 26 milioni di album e ha accumulato più di 50 hit Top 40.
Gill è entrato negli Eagles, accanto a Deacon Frey, dopo la morte di Glenn Frey. Gill serve come co-chitarrista principale, oltre a fornire le chitarre ritmiche, cantare in sottofondo, e condividere occasionalmente la voce principale con Deacon al posto di Glenn Frey. Inizialmente ha iniziato ad andare in tour con la band nel 2017, e continua a servire come membro della band.
Gill suona la chitarra elettrica come musicista ospite nella canzone “Love Me” di Aaron Lewis, che appare nell’album 2019: State I’m In.