Gill debuteerde op de nationale scène met de countryrockband Pure Prairie League in 1979, en verscheen op het album Can’t Hold Back van die band. Hij is de leadzanger op hun nummer “Let Me Love You Tonight”. Mark Knopfler nodigde hem ooit uit om bij Dire Straits te komen spelen, maar hij sloeg het aanbod af (hoewel hij wel als backup zong op het album On Every Street van de Dire Straits).
Gill verliet Pure Prairie League in 1981 om bij Cherry Bombs te gaan spelen, de podiumband die Rodney Crowell begeleidde. Daar werkte hij met Tony Brown en Emory Gordy Jr., die beiden later veel van zijn albums zouden produceren. Hij nam een bluegrass album op, Here Today, met David Grisman en vrienden voordat hij een solo-contract tekende bij RCA, waarmee hij enig succes behaalde, waaronder de singles, “Victim of Life’s Circumstance” (U.S. Country Top 40) en Country Top Tien met “If It Weren’t for Him”, “Oklahoma Borderline” en “Cinderella”. Zijn albums behaalden echter slechts matige verkoopcijfers en in 1989 verliet Gill RCA om bij MCA Records te tekenen. Hier, herenigd met Tony Brown als producer, verkocht hij meer dan een miljoen exemplaren van zijn label debuut, 1989’s When I Call Your Name, waarvan verschillende nummers, inclusief het titelnummer, de U.S. Country charts’ Top Tien / Top Twintig haalden. Dit werd gevolgd door de even succesvolle albums Pocket Full of Gold (1991) en I Still Believe in You, waarvan het titelnummer de Amerikaanse Country nummer 1 haalde.
Door de jaren 1990 en in de jaren 2000 bleef Gill zeer succesvolle albums uitbrengen, voortbordurend op de virtuoze kwaliteit van zijn elektrische en akoestische gitaarspel, zijn zuivere, hoge en soulvolle tenorstem, en de uitstekende kwaliteit van zijn songwriting. Volgens zijn biografie op AllMusic heeft Gill meer CMA Awards gewonnen dan welke artiest in de geschiedenis, en vanaf 2018 heeft hij ook 21 Grammy Awards gewonnen, wat het meeste ooit door een countryartiest vertegenwoordigt.
Gill is lid van de Grand Ole Opry sinds 10 augustus 1991. Hij vierde zijn 25-jarig Opry-jubileum met een tribute show op 13 augustus 2016.
In 1997 ontving hij de Golden Plate Award van de American Academy of Achievement.
In 2010 sloot Gill zich officieel aan bij de country swinggroep The Time Jumpers.
In juli 2011 verscheen Gill als gast in NPR’s nieuwsquizprogramma Wait, Wait…Don’t Tell Me. Ook verscheen hij in 2011 op de tweede van twee bluegrass tribute albums voor de Britse rockband the Moody Blues: Moody Bluegrass TWO… Much Love (2011). In mei 2011 was Carrie Underwood een van de zeven vrouwen die geëerd werden door de Academy of Country Music tijdens de Girls’ Night Out: Superstar Women of Country special. Tijdens de ceremonie, introduceerde Gill Underwood en overhandigde haar de speciale prijs. Hij zong een van haar hits, “Jesus, Take The Wheel”, en zong samen met Underwood een uitvoering van “How Great Thou Art”. De video van het optreden ging binnen twee dagen viral.
In februari 2012 kondigde Gill aan: “Voor het eerst in 30 jaar heb ik geen platencontract. Don’t know that I want one.”
In maart 2012 trad hij op in het Southern Kentucky Performing Arts Center in Bowling Green, Kentucky, voor de openingsavond. Hij werd te elfder ure gerekruteerd voor de show toen zangeres LeAnn Rimes de dag voor de opening afzegde. Gill reed die avond vanuit Nashville met alleen zijn gitaar en speelde voor herhaalde staande ovaties van een staande zaal.
In april 2012 werd bevestigd dat Gill had samengewerkt met Bonnie Tyler aan haar aankomende album, waarbij hij een duet met haar uitvoerde getiteld “What You Need from Me”.
In juni 2012 was hij op tournee en voerde hij alleen bluegrass nummers uit.
Gill ontving de 2.478e ster van de Hollywood Walk of Fame op 6 september 2012.
Op 15 oktober 2012 werd aangekondigd dat Gill te horen zou zijn in een nummer van Kelly Clarkson getiteld “Don’t Rush”, dat verschijnt op Clarkson’s eerste Greatest Hits album. Het album werd Gold gecertificeerd door de RIAA en heeft 509.093 exemplaren verkocht vanaf 13 oktober 2013.
Op 5 november 2014, tijdens de 48e jaarlijkse CMA Awards ontving Gill de Irving Waugh award voor uitmuntendheid in country muziek. Dit was pas de vierde keer dat de prijs werd toegekend sinds de oprichting in 1983. De vorige countrymuziekartiest die de award ontving was Johnny Cash.
In 2016 werd Gill geselecteerd als een van de 30 artiesten om op te treden op Forever Country, dat 50 jaar CMA Awards viert.
In zijn carrière heeft Gill meer dan 26 miljoen albums verkocht en meer dan 50 Top 40-hits verzameld.
Gill trad toe tot de Eagles, naast Deacon Frey, na de dood van Glenn Frey. Gill is de co-lead gitarist, maar ook de ritme gitarist, achtergrond zanger, en deelt af en toe de lead vocalen met Deacon in plaats van Glenn Frey’s rol. Hij begon aanvankelijk te toeren met de band in 2017, en blijft dienen als lid van de band.
Gill speelt de elektrische gitaar als gastmuzikant op Aaron Lewis’ nummer “Love Me”, dat verschijnt op het 2019 album: State I’m In.