Brown var tredje basebollspelare i semiprobaseboll 1898 när hans lags pitcher inte dök upp till en match och Brown sattes in för att kasta. Spelarna i ligan lade snabbt märke till spinnet och rörelsen som skapades av Browns ovanliga grepp. Fred Massey, Browns gammel-nevö, sade: ”Den svängde inte bara, den svängde och föll samtidigt”, sade Massey. ”Det gjorde den extremt svår att träffa och om du träffade den så träffade du den in i marken kunde inte komma under den”. Efter en spektakulär karriär i minor league som inleddes i Terre Haute i Three-I League 1901, kom Brown till majors ganska sent, vid 26 års ålder, 1903, och varade fram till 1916 då han var nära 40.
Browns mest produktiva period var när han spelade för Chicago Cubs från 1904 till 1912. Under denna period vann han 20 eller fler matcher sex gånger och var delaktig i två World Series-mästerskap. New York Giants manager John McGraw betraktade sin egen Christy Mathewson och Brown som de två bästa kastarna i National League. Faktum är att Brown besegrade Mathewson i tävling så ofta som möjligt, mest betydelsefullt i den sista ordinarie säsongsmatchen under säsongen 1908. Brown hade i karriären ett övertag på 13-11 över Mathewson, med ett nollbeslut i deras 25 kastarmatcher.
Browns viktigaste insats i en enskild match var den pennant-avgörande matchen mellan Cubs och New York Giants den 8 oktober 1908 i New York. Med Mathewson som startspelare för Giants fick Cubs startspelare Jack Pfiester en svag start och avlöstes snabbt av Brown, som höll Giants i schack resten av matchen när Cubs vann med 4-2 och vann pennanten. Cubs fortsatte sedan att vinna sitt andra World Series-mästerskap i rad, deras sista fram till 2016, ett spann på 108 år.
I slutet av 1909 var Brown med i ett lag som spelade några matcher på Kuba. Han planerade att tillbringa vintern där, men återvände hem när han fick en mystisk sjukdom. Brown gjorde begränsade insatser 1912 och släpptes av Cubs i oktober, en vecka innan han fyllde 36 år. Kort därefter konsulterade han en läkare angående en mindre sjukdom. Läkaren undersökte Browns knä och rådde Brown att sluta med baseboll eftersom han riskerade att förlora användningen av sitt ben. Brown fortsatte dock att spela och skrev kontrakt med Louisville Colonels, som bytte honom till Cincinnati Reds inför säsongen 1913.
Efter säsongen 1913 hoppade Brown över till Federal League och skrev på sitt kontrakt samma dag som Joe Tinker. Medan Tinker gick till Chicago Whales var Brown spelaransvarig för St Louis Terriers 1914. Brown avskedades som manager i augusti, avslutade sedan säsongen med Brooklyn Tip-Tops och ryktades om att han skulle dra sig tillbaka igen i oktober 1914. Han stannade kvar i ligan och spelade för Chicago Whales 1915. Han återvände till Cubs för sin sista säsong 1916. Brown och Mathewson avslutade sina respektive karriärer genom att mötas den 4 september 1916 i den andra matchen i ett dubbelmöte på Labor Day. Matchen var annonserad som det sista mötet mellan de två gamla baseballkrigarna, och skulle visa sig vara den sista matchen i var och en av deras karriärer. Matchen var mycket målrik och de två lagen hade tillsammans 33 träffar. Men med båda lagen väl tillbaka i kapplöpningen om vimpeln, kastade de två männen hela matchen. Mathewsons Reds vann med 10-8 över Browns Cubs, då Cubs’ rally i nionde inningen misslyckades.
Brown avslutade sin karriär i Major League med 239-130 poäng, 1375 strikeouts och en ERA på 2,06, vilket är den tredje bästa ERA i Major League Basebolls historia bland spelare som tagits in i Hall of Fame, efter Ed Walsh och Addie Joss. Hans 2,06 ERA är den bästa i MLB:s historia för en kastare med mer än 200 segrar. Brown var en switch-hitter, vilket var och är ovanligt för en pitcher. Han var stolt över sitt slag och hade ett rättvist slaggenomsnitt för en pitcher, med ett slaggenomsnitt på .206 i karriären (235-för-1143) med 93 poäng, 2 homeruns och 73 RBI.