Brown was in 1898 derde honkman in het semipro honkbal toen de werper van zijn ploeg niet kwam opdagen voor een wedstrijd en Brown werd ingezet om te werpen. Spelers in de competitie merkten al snel de draai en beweging op die Brown creëerde met zijn ongewone greep. Fred Massey, de achterneef van Brown, zei: “Het boog niet alleen, het boog en viel tegelijkertijd”, zei Massey. “Het maakte hem extreem moeilijk te raken en als je hem toch raakte, sloeg je hem in de grond kon er niet onder komen.” Na een spectaculaire minor league carrière die begon in Terre Haute van de Three-I League in 1901, kwam Brown vrij laat naar de majors, op 26-jarige leeftijd, in 1903, en hield het vol tot 1916 toen hij bijna 40 was.
Brown’s meest productieve periode was toen hij speelde voor de Chicago Cubs van 1904 tot en met 1912. Tijdens deze periode won hij zes keer 20 of meer wedstrijden en maakte deel uit van twee World Series-kampioenschappen. New York Giants manager John McGraw beschouwde zijn eigen Christy Mathewson en Brown als de twee beste werpers in de National League. In feite versloeg Brown Mathewson in competitieverband zo vaak, het meest significant in de laatste reguliere seizoenswedstrijd van het seizoen 1908. Brown had een 13-11 voorsprong op Mathewson, met één no-decision in hun 25 pitching matchups.
Brown’s belangrijkste prestatie in een enkele wedstrijd was de wimpel-beslissende wedstrijd tussen de Cubs en de New York Giants op 8 oktober 1908, in New York. Mathewson startte voor de Giants, Cubs starter Jack Pfiester had een zwakke start en werd snel afgelost door Brown, die de Giants de rest van de wedstrijd in bedwang hield en de Cubs wonnen de wimpel met 4-2. De Cubs wonnen vervolgens hun tweede opeenvolgende World Series kampioenschap, hun laatste tot 2016, een span van 108 jaar.
In het najaar van 1909, Brown was in een team dat een aantal wedstrijden speelde in Cuba. Hij was van plan de winter daar door te brengen, maar keerde terug naar huis toen hij een mysterieuze ziekte opliep. Brown kwam in 1912 maar beperkt in actie en werd in oktober door de Cubs ontslagen, een week voordat hij 36 werd. Kort daarna consulteerde hij een dokter over een lichte ziekte. Na onderzoek van Browns knie adviseerde de arts Brown met honkbal te stoppen omdat hij het risico liep het gebruik van zijn been te verliezen. Brown bleef echter spelen en tekende bij de Louisville Colonels, die hem voor het seizoen 1913 ruilden met de Cincinnati Reds.
Na het seizoen 1913 stapte Brown over naar de Federal League, waar hij zijn contract op dezelfde dag tekende als Joe Tinker. Terwijl Tinker naar de Chicago Whales ging, was Brown de speler-manager voor de St. Louis Terriers in 1914. Brown werd in augustus ontslagen als manager, maakte het seizoen af bij de Brooklyn Tip-Tops, en het gerucht ging dat hij in oktober 1914 weer met pensioen zou gaan. Hij bleef in de competitie en speelde voor de Chicago Whales in 1915. Hij keerde terug naar de Cubs voor zijn laatste seizoen in 1916. Brown en Mathewson sloten hun respectievelijke carrières af op 4 september 1916, in de tweede wedstrijd van een Labor Day doubleheader. De wedstrijd werd aangekondigd als de laatste ontmoeting tussen de twee oude honkbalkrijgers, en zou ook de laatste wedstrijd in elk van hun carrières blijken te zijn. Het was een hoog scorende wedstrijd, de twee ploegen samen goed voor 33 hits. Maar met beide ploegen ver terug in de wimpelrace, gooiden de twee mannen de hele wedstrijd. Mathewson’s Reds zegevierden met 10-8 over Brown’s Cubs, want de Cubs’ rally in de negende inning bleef uit.
Brown sloot zijn Major League-carrière af met een record van 239-130, 1375 strikeouts en een ERA van 2,06, de op twee na beste ERA in de Major League Baseball-geschiedenis onder de spelers die in de Hall of Fame werden opgenomen, na Ed Walsh en Addie Joss. Zijn 2.06 ERA is de beste in de geschiedenis van de MLB voor elke werper met meer dan 200 overwinningen. Brown was een switch-hitter, wat ongebruikelijk was en is voor een werper. Hij was trots op zijn slagwerk en had een redelijk slaggemiddelde voor een werper, met een gemiddelde van .206 (235-uit-1143) met 93 punten, 2 homeruns en 73 RBI.