Gill debuterade på den nationella scenen med countryrockbandet Pure Prairie League 1979 och medverkade på bandets album Can’t Hold Back. Han är sångare på deras låt ”Let Me Love You Tonight”. Mark Knopfler bjöd honom en gång in till Dire Straits, men han avböjde erbjudandet (även om han sjöng backup på Dire Straits album On Every Street).
Gill lämnade Pure Prairie League 1981 för att gå med i Cherry Bombs, scenbandet som backade upp Rodney Crowell. Där arbetade han med Tony Brown och Emory Gordy Jr, som båda senare skulle producera många av hans album. Han spelade in ett bluegrassalbum, Here Today, med David Grisman och vänner innan han skrev på ett soloavtal med RCA som han nådde vissa framgångar med, bland annat singlarna ”Victim of Life’s Circumstance” (U.S. Country Top 40) och Country Top Ten med ”If It Weren’t for Him”, ”Oklahoma Borderline” och ”Cinderella”. Hans album hade dock endast måttlig försäljning och 1989 lämnade Gill RCA för att skriva kontrakt med MCA Records. Här återförenades han med Tony Brown som producent och sålde över en miljon exemplar av sin skivdebut, 1989 års When I Call Your Name, där flera låtar, inklusive titelspåret, hamnade på de amerikanska countrylistorna på Top Ten/Top Twenty. Detta följdes av de lika framgångsrika albumen Pocket Full of Gold (1991) och I Still Believe in You, där titelspåret hamnade på den amerikanska countrylistans första plats.
Under hela 1990-talet och in på 2000-talet fortsatte Gill att släppa mycket framgångsrika album, där han drog nytta av den virtuosa kvaliteten på sitt elektriska och akustiska gitarrspel, sin rena, höga och själsliga tenorröst och den utmärkta kvaliteten på sitt låtskrivande. Enligt hans biografi på AllMusic har Gill vunnit fler CMA Awards än någon annan artist i historien, och från och med 2018 har han också vunnit 21 Grammy Awards, vilket är det mesta som en countryartist någonsin vunnit.
Gill har varit medlem i Grand Ole Opry sedan den 10 augusti 1991. Han firade sitt 25-års Opry-jubileum med en hyllningsshow den 13 augusti 2016.
1997 fick han Golden Plate Award av American Academy of Achievement.
2010 anslöt sig Gill officiellt till countryswinggruppen The Time Jumpers.
I juli 2011 uppträdde Gill som gäst i NPR:s nyhetsfrågesportprogram Wait, Wait…Don’t Tell Me. Även 2011 medverkade han på det andra av två bluegrass-hyllningsalbum för det brittiska rockbandet Moody Blues: Moody Bluegrass TWO… Much Love (2011). I maj 2011 var Carrie Underwood en av de sju kvinnor som hedrades av Academy of Country Music vid Girls’ Night Out: Superstar Women of Country special. Vid ceremonin presenterade Gill Underwood och gav henne det särskilda priset. Han sjöng en av hennes hits, ”Jesus, Take The Wheel”, och tillsammans med Underwood framförde han ”How Great Thou Art”. Videon av framträdandet blev viral inom två dagar.
I februari 2012 meddelade Gill: ”För första gången på 30 år har jag inget skivkontrakt. Jag vet inte om jag vill ha ett.”
I mars 2012 uppträdde han på Southern Kentucky Performing Arts Center i Bowling Green, Kentucky, på dess premiärkväll. Han rekryterades till showen i elfte timmen när sångerskan LeAnn Rimes ställde in dagen före öppningen. Gill körde upp från Nashville den kvällen med endast sin gitarr och spelade till upprepade stående ovationer från en stående publik.
I april 2012 bekräftades det att Gill hade arbetat med Bonnie Tyler på hennes kommande album och framförde en duett med henne med titeln ”What You Need from Me”.
I juni 2012 turnerade han och framförde endast bluegrasslåtar.
Gill fick den 2 478:e stjärnan på Hollywood Walk of Fame den 6 september 2012.
Den 15 oktober 2012 tillkännagavs det att Gill skulle medverka i en låt av Kelly Clarkson med titeln ”Don’t Rush”, som finns med på Clarksons första Greatest Hits album. Albumet certifierades guld av RIAA och har sålts i 509 093 exemplar från och med den 13 oktober 2013.
Den 5 november 2014, vid den 48:e årliga CMA Awards, mottog Gill Irving Waugh-priset för excellens inom countrymusik. Detta var bara fjärde gången priset delades ut sedan det instiftades 1983. Den tidigare countryartisten som fick priset var Johnny Cash.
2016 valdes Gill ut som en av 30 artister att uppträda i Forever Country, som firar 50 år av CMA Awards.
Under sin karriär har Gill sålt mer än 26 miljoner album och samlat på sig mer än 50 topp 40-hits.
Gill gick med i Eagles, tillsammans med Deacon Frey, efter Glenn Freys död. Gill fungerar som medledande gitarrist, förutom att ge rytmiska gitarrer, sjunga bakgrundssång och dela tillfällig leadsång med Deacon i stället för Glenn Freys roll. Han började först turnera med bandet 2017 och fortsätter att fungera som medlem i bandet.
Gill spelar elgitarr som gästmusiker på Aaron Lewis låt ”Love Me”, som finns med på albumet från 2019: State I’m In.