Brown war 1898 dritter Baseman im Semiprofi-Baseball, als der Pitcher seines Teams zu einem Spiel nicht erschien und Brown als Pitcher eingesetzt wurde. Die Spieler der Liga bemerkten schnell den Spin und die Bewegung, die durch Browns ungewöhnlichen Griff verursacht wurden. Fred Massey, Browns Großneffe, sagte: „Er hat sich nicht nur gekrümmt, er hat sich gekrümmt und ist gleichzeitig gefallen“, so Massey. „Das machte es extrem schwer, ihn zu treffen, und wenn man ihn doch traf, konnte man ihn nicht mehr unterkriegen.“ Nach einer spektakulären Minor-League-Karriere, die 1901 in Terre Haute in der Three-I-League begann, kam Brown 1903 im Alter von 26 Jahren relativ spät zu den Majors und blieb bis 1916, als er fast 40 Jahre alt war.
Browns produktivste Zeit war, als er von 1904 bis 1912 für die Chicago Cubs spielte. In dieser Zeit gewann er sechsmal 20 oder mehr Spiele und war an zwei World Series-Meisterschaften beteiligt. Der Manager der New York Giants, John McGraw, hielt seinen eigenen Spieler Christy Mathewson und Brown für die beiden besten Werfer der National League. Tatsächlich besiegte Brown Mathewson so oft wie möglich, am deutlichsten im letzten regulären Saisonspiel der Saison 1908. Brown hatte in seiner Karriere einen Vorsprung von 13:11 gegenüber Mathewson, und in ihren 25 Pitching-Matches gab es nur eine Nicht-Entscheidung.
Browns wichtigste Leistung in einem einzelnen Spiel war das Spiel zwischen den Cubs und den New York Giants am 8. Oktober 1908 in New York, das über den Wimpel entschied. Da Mathewson für die Giants begann, erwischte Cubs-Starter Jack Pfiester einen schwachen Start und wurde schnell von Brown abgelöst, der die Giants für den Rest des Spiels in Schach hielt, als die Cubs mit 4:2 siegten und den Wimpel gewannen. Danach gewannen die Cubs ihre zweite World Series-Meisterschaft in Folge, die letzte bis 2016, also 108 Jahre lang.
Ende 1909 war Brown in einem Team, das einige Spiele in Kuba bestritt. Er plante, den Winter dort zu verbringen, kehrte aber nach Hause zurück, als er sich eine mysteriöse Krankheit einfing. Brown kam 1912 nur zu wenigen Einsätzen und wurde von den Cubs im Oktober entlassen, eine Woche bevor er 36 Jahre alt wurde. Kurz darauf suchte er einen Arzt wegen einer leichten Krankheit auf. Der Arzt untersuchte Browns Knie und riet ihm, sich vom Baseball zurückzuziehen, da er Gefahr lief, sein Bein nicht mehr benutzen zu können. Brown spielte jedoch weiter und unterschrieb bei den Louisville Colonels, die ihn für die Saison 1913 an die Cincinnati Reds verkauften.
Nach der Saison 1913 wechselte Brown in die Federal League und unterschrieb seinen Vertrag am selben Tag wie Joe Tinker. Während Tinker zu den Chicago Whales ging, war Brown 1914 Spielermanager bei den St. Louis Terriers. Brown wurde im August als Manager entlassen, beendete dann die Saison bei den Brooklyn Tip-Tops und sollte im Oktober 1914 wieder zurücktreten. Er blieb jedoch in der Liga und spielte 1915 für die Chicago Whales. 1916 kehrte er für seine letzte Saison zu den Cubs zurück. Brown und Mathewson beendeten ihre jeweiligen Karrieren, indem sie am 4. September 1916 im zweiten Spiel eines Labor Day Doubleheaders gegeneinander antraten. Das Spiel wurde als das letzte Aufeinandertreffen der beiden alten Baseball-Krieger angekündigt und sollte sich auch als das letzte Spiel ihrer jeweiligen Karrieren erweisen. Das Spiel war ein Spiel mit vielen Punkten, denn beide Teams erzielten zusammen 33 Hits. Aber da beide Teams im Rennen um den Wimpel weit zurücklagen, warfen die beiden Männer das ganze Spiel über. Mathewsons Reds setzten sich mit 10:8 gegen Browns Cubs durch, da die Cubs im neunten Inning nicht mehr zurückkamen.
Brown beendete seine Major-League-Karriere mit einer Bilanz von 239:130, 1375 Strikeouts und einem ERA von 2,06, dem drittbesten ERA in der Geschichte der Major League Baseball unter den in die Hall of Fame aufgenommenen Spielern nach Ed Walsh und Addie Joss. Sein ERA-Wert von 2,06 ist der beste in der Geschichte der MLB für einen Pitcher mit mehr als 200 Siegen. Brown war ein Switch-Hitter, was für einen Pitcher ungewöhnlich war und ist. Er war stolz auf seine Schläge und hatte einen guten Schlagdurchschnitt für einen Pitcher, der in seiner Karriere einen Schlagdurchschnitt von .206 (235-for-1143) mit 93 Runs, 2 Homeruns und 73 RBI erzielte.