Gill debutoval na národní scéně s country rockovou skupinou Pure Prairie League v roce 1979, kdy se objevil na jejím albu Can’t Hold Back. Je hlavním zpěvákem jejich písně „Let Me Love You Tonight“. Mark Knopfler ho jednou vyzval, aby se připojil k Dire Straits, ale on tuto nabídku odmítl (ačkoli na albu Dire Straits On Every Street zpíval jako doprovod).
Gill opustil Pure Prairie League v roce 1981 a připojil se ke skupině Cherry Bombs, která doprovázela Rodneyho Crowella. Tam spolupracoval s Tony Brownem a Emory Gordym Jr, kteří později produkovali řadu jeho alb. S Davidem Grismanem a přáteli natočil bluegrassové album Here Today a poté podepsal sólovou smlouvu s RCA, s níž dosáhl několika úspěchů včetně singlů „Victim of Life’s Circumstance“ (U.S. Country Top 40) a Country Top Ten s „If It Weren’t for Him“, „Oklahoma Borderline“ a „Cinderella“. Jeho alba však dosahovala jen průměrných prodejů a v roce 1989 Gill opustil RCA a podepsal smlouvu s MCA Records. Zde se znovu spojil s Tony Brownem jako producentem a prodal více než milion kopií svého debutu u této značky, alba „When I Call Your Name“ z roku 1989, z něhož se několik písní, včetně titulní skladby, dostalo do první desítky / dvacítky americké country hitparády. Následovala podobně úspěšná alba Pocket Full of Gold (1991) a I Still Believe in You, z něhož se titulní skladba dostala na první místo americké country hitparády.
Po celá devadesátá léta a v roce 2000 Gill pokračoval ve vydávání velmi úspěšných alb, která těžila z virtuózní kvality jeho hry na elektrickou i akustickou kytaru, jeho čistého, vysokého a oduševnělého tenorového hlasu a vynikající kvality jeho písňové tvorby. Podle jeho životopisu na serveru AllMusic získal Gill více cen CMA než kterýkoli jiný interpret v historii a od roku 2018 získal také 21 cen Grammy, což představuje nejvíce cen, které kdy získal country umělec.
Gill je členem Grand Ole Opry od 10. srpna 1991. Své 25. výročí Opry oslavil 13. srpna 2016 tribute show.
V roce 1997 obdržel cenu Golden Plate Award Americké akademie úspěchů.
V roce 2010 se Gill oficiálně připojil ke country swingové skupině The Time Jumpers.
V červenci 2011 Gill vystoupil jako host ve zpravodajském kvízovém pořadu NPR Wait, Wait…Don’t Tell Me. V roce 2011 se také objevil na druhém ze dvou bluegrassových tribute alb britské rockové skupiny Moody Blues: Moody Bluegrass TWO… Much Love (2011). V květnu 2011 byla Carrie Underwood jednou ze sedmi žen, které Akademie country hudby ocenila na akci Girls‘ Night Out: Superstar Women of Country speciál. Na slavnostním ceremoniálu Gill Underwoodovou představil a předal jí zvláštní cenu. Zazpíval jeden z jejích hitů, „Jesus, Take The Wheel“, a připojil se k Underwoodové při přednesu písně „How Great Thou Art“. Video z tohoto vystoupení se během dvou dnů stalo virálním.
V únoru 2012 Gill oznámil: „Poprvé za 30 let nemám nahrávací smlouvu. Nevím, jestli nějakou chci.“
V březnu 2012 vystoupil v Southern Kentucky Performing Arts Center v Bowling Green ve státě Kentucky na jeho zahajovacím večeru. Na vystoupení byl přijat v jedenáctou hodinu, když zpěvačka LeAnn Rimes den před zahájením zrušila vystoupení. Gill ten večer přijel z Nashvillu pouze s kytarou a hrál za opakovaných ovací vestoje.
V dubnu 2012 bylo potvrzeno, že Gill spolupracoval s Bonnie Tyler na jejím připravovaném albu, kde s ní nazpíval duet „What You Need from Me“.
V červnu 2012 byl na turné a vystupoval pouze s bluegrassovými písněmi.
Gill obdržel 6. září 2012 2478. hvězdu na Hollywoodském chodníku slávy.
15. října 2012 bylo oznámeno, že Gill bude účinkovat v písni Kelly Clarkson „Don’t Rush“, která se objeví na Clarksonině prvním albu Greatest Hits. Album získalo od RIAA zlatý certifikát a k 13. říjnu 2013 se ho prodalo 509 093 kopií.
Na 48. ročníku CMA Awards 5. listopadu 2014 Gill převzal cenu Irvinga Waugha za vynikající výkony v country hudbě. Toto ocenění bylo uděleno teprve počtvrté od jeho vzniku v roce 1983. Předchozím countryovým umělcem, který toto ocenění obdržel, byl Johnny Cash.
V roce 2016 byl Gill vybrán jako jeden z 30 umělců, kteří vystoupí v pořadu Forever Country, jenž je oslavou 50 let udílení cen CMA.
Za svou kariéru Gill prodal více než 26 milionů alb a nasbíral více než 50 hitů v Top 40.
Po smrti Glenna Freye se Gill připojil ke skupině Eagles po boku Deacona Freye. Gill působí jako spoluhráč na kytaru, kromě toho obstarává rytmické kytary, zpívá doprovodné vokály a občas se s Deaconem dělí o hlavní vokály místo Glenna Freye. Původně začal s kapelou koncertovat v roce 2017 a nadále působí jako její člen.
Gill hraje na elektrickou kytaru jako hostující hudebník v písni Aarona Lewise „Love Me“, která se objevuje na albu z roku 2019: Stát, ve kterém se nacházím.