Gill debuterede på den nationale scene med countryrockbandet Pure Prairie League i 1979 og optrådte på dette bands album Can’t Hold Back. Han er forsanger på deres sang “Let Me Love You Tonight”. Mark Knopfler inviterede ham engang til at blive medlem af Dire Straits, men han takkede nej til tilbuddet (selv om han sang backup på Dire Straits’ album On Every Street).
Gill forlod Pure Prairie League i 1981 for at blive medlem af Cherry Bombs, det sceneband, der var backing for Rodney Crowell. Her arbejdede han sammen med Tony Brown og Emory Gordy Jr. som begge senere skulle producere mange af hans album. Han indspillede et bluegrass-album, Here Today, med David Grisman og venner, inden han underskrev en soloaftale med RCA, hvor han opnåede en vis succes, bl.a. med singlerne “Victim of Life’s Circumstance” (U.S. Country Top 40) og Country Top Ten med “If It Weren’t for Him”, “Oklahoma Borderline” og “Cinderella”. Hans album opnåede dog kun et moderat salg, og i 1989 forlod Gill RCA for at underskrive kontrakt med MCA Records. Her blev han genforenet med Tony Brown som producer og solgte over en million eksemplarer af sin debut på pladeselskabet, When I Call Your Name fra 1989, hvoraf flere sange, herunder titelnummeret, nåede de amerikanske countrylister på Top Ten / Top Twenty. Dette blev efterfulgt af de tilsvarende succesfulde album Pocket Full of Gold (1991) og I Still Believe in You, hvoraf titelnummeret blev nr. 1 på de amerikanske Country-lister.
Igennem 1990’erne og ind i 2000’erne fortsatte Gill med at udgive meget succesfulde album, idet han udnyttede den virtuose kvalitet af sit elektriske og akustiske guitarspil, sin rene, høje og sjælfulde tenorstemme og den fremragende kvalitet af sin sangskrivning. Ifølge hans biografi på AllMusic har Gill vundet flere CMA Awards end nogen anden kunstner i historien, og i 2018 har han også vundet 21 Grammy Awards, hvilket er det højeste antal nogensinde for en countrykunstner.
Gill har været medlem af Grand Ole Opry siden den 10. august 1991. Han fejrede sit 25 års Opry-jubilæum med et tribute show den 13. august 2016.
I 1997 modtog han Golden Plate Award fra American Academy of Achievement.
I 2010 blev Gill officielt medlem af country swing-gruppen The Time Jumpers.
I juli 2011 optrådte Gill som gæst i NPR’s nyhedsquizshow Wait, Wait…Don’t Tell Me. Ligeledes i 2011 optrådte han på det andet af to bluegrass-hyldestalbum for det britiske rockband The Moody Blues: Moody Bluegrass TWO… Much Love (2011). I maj 2011 var Carrie Underwood en af de syv kvinder, der blev hædret af Academy of Country Music ved Girls’ Night Out i maj 2011: Superstar Women of Country special. Ved ceremonien præsenterede Gill Underwood og overrakte hende den særlige pris. Han sang et af hendes hits, “Jesus, Take The Wheel”, og sang sammen med Underwood en fortolkning af “How Great Thou Art”. Videoen af opførelsen gik viralt i løbet af to dage.
I februar 2012 meddelte Gill: “For første gang i 30 år har jeg ikke en pladekontrakt. Jeg ved ikke, om jeg vil have en.”
I marts 2012 optrådte han på Southern Kentucky Performing Arts Center i Bowling Green, Kentucky, til dets åbningsaften. Han blev rekrutteret til showet i 11. time, da sangerinden LeAnn Rimes aflyste dagen før åbningen. Gill kørte op fra Nashville den aften med kun sin guitar og spillede til gentagne stående bifald fra et fuldt hus.
I april 2012 blev det bekræftet, at Gill havde arbejdet sammen med Bonnie Tyler på hendes kommende album og optrådte med hende i en duet med titlen “What You Need from Me”.
I juni 2012 var han på turné og optrådte kun med bluegrass-sange.
Gill modtog den 2.478. stjerne på Hollywood Walk of Fame den 6. september 2012.
Den 15. oktober 2012 blev det annonceret, at Gill ville medvirke i en sang af Kelly Clarkson med titlen “Don’t Rush”, som er med på Clarksons første Greatest Hits-album. Albummet blev certificeret guld af RIAA og er solgt i 509.093 eksemplarer pr. 13. oktober 2013.
Den 5. november 2014 modtog Gill ved den 48. årlige CMA Awards den 5. november 2014 Irving Waugh-prisen for ekspertise inden for countrymusik. Det var kun fjerde gang, at prisen blev uddelt siden dens begyndelse i 1983. Den tidligere countrymusikkunstner, der modtog prisen, var Johnny Cash.
I 2016 blev Gill udvalgt som en af 30 kunstnere til at optræde på Forever Country, der fejrer 50 år med CMA Awards.
I sin karriere har Gill solgt mere end 26 millioner albums og akkumuleret mere end 50 Top 40-hits.
Gill blev medlem af Eagles, sammen med Deacon Frey, efter Glenn Freys død. Gill fungerer som co-lead guitarist, ud over at levere rytmeguitarer, synge baggrundssang og dele lejlighedsvis leadvokal med Deacon i stedet for Glenn Frey’s rolle. Han begyndte oprindeligt at turnere med bandet i 2017 og fortsætter som medlem af bandet.
Gill spiller elguitar som gæstemusiker på Aaron Lewis’ sang “Love Me”, som er med på albummet fra 2019: State I’m In.