Gill estreou no cenário nacional com a banda de country rock Pure Prairie League em 1979, aparecendo no álbum dessa banda Can’t Hold Back. Ele é o vocalista da música deles “Let Me Love You Tonight”. Mark Knopfler uma vez o convidou para se juntar aos Dire Straits, mas ele recusou a oferta (embora ele tenha cantado de reserva no álbum dos Dire Straits, On Every Street).
Gill deixou a Pure Prairie League em 1981 para se juntar à Cherry Bombs, a banda de palco que apoiou Rodney Crowell. Lá ele trabalhou com Tony Brown e Emory Gordy Jr., que mais tarde produziram muitos de seus álbuns. Ele gravou um álbum de bluegrass, Here Today, com David Grisman e amigos antes de assinar um contrato solo com a RCA, com quem alcançou algum sucesso, incluindo os singles, “Victim of Life’s Circumstance” (U.S. Country Top 40) e Country Top Ten com “If It Weren’t for Him”, “Oklahoma Borderline” e “Cinderella”. Entretanto, seus álbuns alcançaram apenas vendas moderadas e em 1989, Gill deixou a RCA para assinar com a MCA Records. Aqui, reunido com Tony Brown como produtor, ele vendeu mais de um milhão de cópias de sua estréia pela gravadora, When I Call Your Name de 1989, das quais várias músicas, incluindo a faixa título, fizeram as Top Ten / Top Twenty das paradas nacionais dos EUA. Seguiram-se os álbuns de sucesso semelhante, Pocket Full of Gold (1991) e I Still Believe in You, dos quais a faixa-título foi para U.S. Country No. 1.
Atrás dos anos 90 e nos anos 2000 Gill continuou a lançar álbuns de grande sucesso, capitalizando a qualidade virtuosa de seu violão elétrico e acústico tocando, sua voz pura, alta e com alma de tenor, e a excelente qualidade de sua composição. De acordo com sua biografia no AllMusic, Gill ganhou mais prêmios CMA do que qualquer outro intérprete da história, e a partir de 2018 também ganhou 21 prêmios Grammy, o que representa o maior prêmio já conquistado por um artista country.
Gill é membro do Grand Ole Opry desde 10 de agosto de 1991. Ele comemorou seu 25º aniversário do Opry com um show de homenagem em 13 de agosto de 2016.
Em 1997, ele recebeu o prêmio Golden Plate Award da Academia Americana de Conquistas.
Em 2010, Gill se juntou oficialmente ao grupo de swing country The Time Jumpers.
Em julho de 2011, Gill apareceu como convidado no programa de perguntas e respostas da NPR Wait, Wait…Don’t Tell Me. Também em 2011, ele apareceu no segundo de dois álbuns de tributo de bluegrass para a banda de rock britânica Moody Blues: Moody Bluegrass TWO… Much Love (2011). Em maio de 2011, Carrie Underwood foi uma das sete mulheres homenageadas pela Academia de Música Country na Girls’ Night Out: Especial “Superstar Women of Country”. Na cerimônia, Gill apresentou Underwood e a presenteou com o prêmio especial. Ele cantou um dos seus sucessos, “Jesus, Take The Wheel”, e juntou-se a Underwood numa performance de interpretação de “How Great Thou Art”. O vídeo da performance ficou viral em dois dias.
Em fevereiro de 2012, Gill anunciou: “Pela primeira vez em 30 anos, eu não tenho um contrato recorde. Não sei se quero um”
Em março de 2012, ele se apresentou no Centro de Artes Performáticas do Kentucky do Sul, em Bowling Green, Kentucky, para sua noite de abertura. Ele foi recrutado para o show na 11ª hora, quando a cantora LeAnn Rimes cancelou na véspera da abertura. Gill veio de Nashville naquela noite apenas com seu violão e tocou para repetir ovações de pé de uma casa só de pé.
Em abril de 2012, foi confirmado que Gill estava trabalhando com Bonnie Tyler em seu próximo álbum, apresentando um dueto com ela intitulado “What You Need from Me”.
Em junho de 2012, ele estava em turnê e apresentando apenas músicas de bluegrass.
Gill recebeu a 2.478ª estrela do Hollywood Walk of Fame em 6 de setembro de 2012.
Em 15 de outubro de 2012, foi anunciado que Gill seria apresentado em uma música de Kelly Clarkson intitulada “Don’t Rush”, que aparece no primeiro álbum Greatest Hits da Clarkson. O álbum foi certificado Gold pela RIAA e vendeu 509.093 cópias até 13 de outubro de 2013.
Em 5 de novembro de 2014, no 48º CMA Awards anual, Gill recebeu o prêmio Irving Waugh de excelência em música country. Esta foi apenas a quarta vez que o prêmio foi concedido desde o seu início, em 1983. O anterior artista de música country a receber o prêmio foi Johnny Cash.
Em 2016, Gill foi selecionado como um dos 30 artistas a se apresentar no Forever Country, que comemora 50 anos da CMA Awards.
Em sua carreira Gill vendeu mais de 26 milhões de álbuns e acumulou mais de 50 Top 40 hits.
Gill se juntou aos Eagles, ao lado de Deacon Frey, após a morte de Glenn Frey. Gill serve como co-líder guitarrista, além de fornecer guitarras rítmicas, cantar e compartilhar vocais ocasionais com Deacon no lugar do papel de Glenn Frey. Ele começou a fazer turnê com a banda em 2017, e continua a servir como membro da banda.
Gill toca guitarra elétrica como músico convidado na música “Love Me” de Aaron Lewis, que aparece no álbum de 2019: State I’m In.