Joe Nichols ha preso la via del successo country, ottenendo il suo primo grande successo sei anni dopo aver ottenuto il suo primo contratto discografico. Nativo di Rogers, Arkansas, Nichols è cresciuto guardando suo padre suonare il basso in un gruppo country locale. Lui stesso ha suonato in una rock band durante la sua adolescenza, ma presto è tornato al country, e dopo la scuola superiore ha preso un lavoro notturno come DJ mentre si sosteneva come meccanico di giorno. In quest’ultimo lavoro incontrò il produttore Randy Edwards, e sotto la guida di Edwards si esibì regolarmente e lavorò sul suo songwriting.
Ottenne un contratto discografico con la Intersound e pubblicò il suo debutto omonimo nel 1996, naturalmente con Edwards come produttore. Il singolo “Six of One, Half a Dozen (Of the Other)” fu un successo minore, ma l’album non vendette particolarmente bene. Riuscì a far guadagnare a Nichols una chance con la Warner Bros, ma una serie di fusioni di etichette lo lasciò fuori al freddo, e lui fece una serie di lavori giornalieri intorno a Nashville mentre cercava un nuovo accordo. Nel 2000, ha stretto una collaborazione con il chitarrista di sessione Brent Rowan, e due anni dopo ha firmato con la Universal. Il suo debutto con l’etichetta, Man with a Memory, è stato pubblicato nel 2002, e il suo singolo principale, la ballata “The Impossible”, è andato al numero tre delle classifiche country, passando anche alla Top 30 pop. Sulla scia del suo successo, il suo primo album fu ristampato con il titolo Six of One, Half Dozen of the Other.
Un altro singolo di Man with a Memory, “Brokenheartsville”, divenne la sua prima hit country numero uno all’inizio del 2003, e contribuì a mandare l’album nella Top Ten country. I riconoscimenti volarono improvvisamente in fretta e furia. L’Academy of Country Music nominò Nichols Top New Male Vocalist, ottenne tre nomination ai Grammy, e Billboard dichiarò “The Impossible” la decima canzone più suonata nel 2003. Nichols e la sua band andarono in tour con Alan Jackson fino ad agosto dello stesso anno, e il singolo “She Only Smokes When She Drinks” ebbe un successo simile alla radio country. A settembre, il fermento intorno a Nichols continuò con una nomination al premio Horizon new artist della Country Music Association.
Il suo secondo disco per la Universal South, Revelation, e un album per le vacanze, Traditional Christmas, sono usciti nel 2004, seguiti dalla Top Ten hit III nel 2005. Il suo prossimo disco, Real Things, ha colpito gli scaffali nel 2007 e si è concentrato principalmente su tenere ballate country con un’infarinatura di jam uptempo. Old Things New è seguito due anni dopo, nel 2009. Old Things New fu un altro solido successo per Nichols grazie ai singoli “Believers” e “Gimmie That Girl”, e Nichols lo seguì nel 2011 con It’s All Good. È tutto buono eseguito rispettabilmente – ha debuttato al 19 nella classifica del paese di Billboard – ma non ha generato un singolo di grande successo. Dopo la sua uscita, Nichols si è separato dalla Universal e ha firmato con Red Bow nell’ottobre 2012. Un anno dopo, è tornato con il solare, pop-oriented Crickets.
Crickets ha generato due grandi successi country — “Sunny and 75” e “Yeah” — che hanno mantenuto l’album nelle classifiche fino al 2014. Nel 2015, Nichols ha pubblicato “Freaks Like Me”, il singolo che doveva essere il primo assaggio del suo ottavo album da solista, ma non ha generato molta attenzione, né il suo seguito del 2016, “Undone”. Dopo questi due singoli, Nichols ha rielaborato l’ottavo album, che è stato pubblicato come Never Gets Old nel luglio 2017.