Brown var tredje baseman i semipro-baseball i 1898, da hans holds pitcher ikke mødte op til en kamp, og Brown blev sat til at pitche. Spillerne i ligaen bemærkede hurtigt det spin og den bevægelse, der blev skabt af Browns usædvanlige greb. Fred Massey, Browns grand-nevø, sagde: “Den bøjede ikke kun, den bøjede og faldt på samme tid”, sagde Massey. “Det gjorde den ekstremt svær at ramme, og hvis du ramte den, ramte du den ind i jorden kunne ikke komme under den.” Efter en spektakulær minor league-karriere, der begyndte i Terre Haute i Three-I League i 1901, kom Brown ret sent, som 26-årig, til majors i 1903 og varede indtil 1916, hvor han var tæt på 40.
Browns mest produktive periode var, da han spillede for Chicago Cubs fra 1904 til 1912. I løbet af denne periode vandt han 20 eller flere kampe seks gange og var med i to World Series-mesterskaber. New York Giants manager John McGraw betragtede sin egen Christy Mathewson og Brown som de to bedste pitchere i National League. Faktisk besejrede Brown Mathewson i konkurrence lige så ofte som ikke, mest markant i den sidste kamp i den regulære sæson i 1908-sæsonen. Brown havde i karrieren et forspring på 13-11 over Mathewson, med en enkelt no-decision i deres 25 pitching-matchups.
Browns vigtigste indsats i en enkelt kamp var den pennant-afgørende kamp mellem Cubs og New York Giants den 8. oktober 1908 i New York. Da Mathewson startede for Giants, fik Cubs-starteren Jack Pfiester en svag start og blev hurtigt afløst af Brown, som holdt Giants i skak resten af kampen, da Cubs vandt 4-2 og dermed vandt vimpelen. Cubs vandt derefter deres andet World Series-mesterskab i træk, deres sidste indtil 2016, en periode på 108 år.
I slutningen af 1909 var Brown på et hold, der spillede nogle kampe i Cuba. Han havde planlagt at tilbringe vinteren der, men vendte hjem, da han blev ramt af en mystisk sygdom. Brown kom kun i begrænset omfang i aktion i 1912 og blev frigivet af Cubs i oktober, en uge før han blev 36 år. Kort tid efter konsulterede han en læge om en mindre sygdom. Lægen undersøgte Browns knæ og rådede Brown til at trække sig tilbage fra baseball, fordi han risikerede at miste brugen af sit ben. Brown fortsatte dog med at spille og skrev under med Louisville Colonels, som byttede ham til Cincinnati Reds til 1913-sæsonen.
Efter 1913-sæsonen sprang Brown over til Federal League og underskrev sin kontrakt samme dag som Joe Tinker. Mens Tinker gik til Chicago Whales, var Brown spiller-manager for St. Louis Terriers i 1914. Brown blev afskediget som manager i august, hvorefter han afsluttede sæsonen med Brooklyn Tip-Tops, og det rygtedes, at han ville trække sig tilbage igen i oktober 1914. Han blev dog i ligaen og spillede for Chicago Whales i 1915. Han vendte tilbage til Cubs i sin sidste sæson i 1916. Brown og Mathewson afsluttede deres respektive karrierer ved at spille mod hinanden den 4. september 1916 i den anden kamp i et Labor Day-dobbeltopgør. Kampen blev annonceret som det sidste møde mellem de to gamle baseballkrigere, og det skulle vise sig at blive den sidste kamp i hver af deres karrierer. Der blev scoret mange point i kampen, hvor de to hold tilsammen fik 33 hits. Men da begge hold var langt tilbage i kampen om vimpeltitlen, kastede de to mænd hele kampen. Mathewsons Reds sejrede med 10-8 over Browns Cubs, da Cubs’ samling i niende inning ikke lykkedes.
Brown afsluttede sin major league-karriere med en rekord på 239-130, 1375 strikeouts og en ERA på 2,06, den tredjebedste ERA i Major League Baseball-historien blandt spillere, der er optaget i Hall of Fame, efter Ed Walsh og Addie Joss. Hans ERA på 2,06 er den bedste i MLB-historien for en pitcher med mere end 200 sejre. Brown var en switch-hitter, hvilket var og er usædvanligt for en pitcher. Han var stolt af sit slagspil og havde et rimeligt slaggennemsnit for en pitcher, idet han i karrieren havde et slaggennemsnit på .206 (235-for-1143) med 93 runs, 2 home runs og 73 RBI.