Joe Nichols tog en omväg till countryframgångar och fick sin första stora hit sex år efter att han fick sitt första skivkontrakt. Nichols är född i Rogers, Arkansas, och växte upp när han såg sin far spela bas i ett lokalt countryband. Han spelade själv i ett rockband under tonåren men kom snart tillbaka till country och efter high school tog han ett nattjobb som DJ samtidigt som han försörjde sig själv som mekaniker på dagarna. På det sistnämnda jobbet träffade han producenten Randy Edwards, och under Edwards ledning uppträdde han regelbundet och arbetade med sitt låtskrivande.
Han fick ett skivkontrakt med Intersound och släppte sin självbetitlade debut 1996, naturligtvis med Edwards som producent. Singeln ”Six of One, Half a Dozen (Of the Other)” blev en mindre hit, men albumet sålde inte särskilt bra. Det lyckades dock ge Nichols en chans hos Warner Bros, men en rad bolagssammanslagningar lämnade honom i sticket och han hade en rad dagjobb runt om i Nashville medan han letade efter ett nytt avtal. År 2000 inledde han ett låtskrivarsamarbete med sessionsgitarristen Brent Rowan, och två år senare skrev han kontrakt med Universal. Hans skivdebut, Man with a Memory, släpptes 2002 och dess första singel, balladen ”The Impossible”, gick in som nummer tre på countrylistan och gick även över till poptoppen 30. Efter framgången gavs hans första album ut på nytt med titeln Six of One, Half Dozen of the Other.
En annan singel från Man with a Memory, ”Brokenheartsville”, blev hans första countryhit i början av 2003 och bidrog till att föra in albumet på country-topp tio. Hyllningarna flög plötsligt snabbt och häftigt. Academy of Country Music utsåg Nichols till sin bästa nya manliga sångare, han fick tre Grammy-nomineringar och Billboard förklarade att ”The Impossible” var den tionde mest spelade låten 2003. Nichols och hans band turnerade med Alan Jackson i augusti samma år och singeln ”She Only Smokes When She Drinks” fick liknande framgångar på countryradion. I september fortsatte surret kring Nichols med en nominering till Horizon new artist award från Country Music Association.
Hans andra skiva för Universal South, Revelation, och ett semesteralbum, Traditional Christmas, släpptes 2004, följt av topp tio-hiten III 2005. Hans nästa skiva, Real Things, kom ut på hyllorna 2007 och fokuserade främst på ömsinta countryballader med ett stänk av uptempo-jams. Old Things New följde två år senare, 2009. Old Things New blev ännu en solid hit för Nichols tack vare singlarna ”Believers” och ”Gimmie That Girl”, och Nichols följde upp den 2011 med It’s All Good. It’s All Good presterade respektabelt – den debuterade på plats 19 på Billboards countrylista – men den genererade ingen stor hitsingel. Efter att den släpptes skilde sig Nichols från Universal och skrev kontrakt med Red Bow i oktober 2012. Ett år senare återkom han med den soliga, poporienterade Crickets.
Crickets genererade två stora countryhits — ”Sunny and 75” och ”Yeah” — vilket gjorde att albumet höll sig kvar på listorna fram till 2014. År 2015 släppte Nichols ”Freaks Like Me”, singeln som var tänkt att bli det första smakprovet från hans åttonde soloalbum, men den väckte inte någon större uppmärksamhet, inte heller dess uppföljare från 2016, ”Undone”. Efter dessa två singlar omarbetade Nichols det åttonde albumet, som släpptes som Never Gets Old i juli 2017.