Paul Ehrlich urodził się 14 marca 1854 roku w Strehlen w Niemczech. Już jako uczeń i student medycyny interesował się barwieniem mikroskopijnych substancji tkankowych. W swojej pracy doktorskiej na uniwersytecie w Lipsku ponownie podjął ten temat („Beiträge zur Theorie und Praxis der histologischen Färbung”). Po wykształceniu klinicznym i habilitacji („Das Sauerstoffbedürfnis des Organismus”) w berlińskiej Charité w 1887 r. otrzymał zaproszenie od Roberta Kocha do Instytutu Chorób Infekcyjnych w Berlinie (1891).
Paul Ehrlich przezwyciężył chorobę gruźlicy, którą zaraził się w Egipcie. Następnie pracował wraz ze swoim przyjacielem Emilem Adolfem von Behringiem nad rozwojem surowicy przeciw błonicy, która miała pomóc w zwalczaniu takich chorób układu oddechowego.
Prace te były inspiracją do jego słynnej teorii łańcucha bocznego (Seitenkettentheorie) z 1897 roku. Teoria ta wyjaśniała działanie surowicy i pozwalała na pomiar ilości antygenu. W 1896 roku Ehrlich został dyrektorem nowo założonego Królewskiego Instytutu Badań i Badania Surowicy (Königlichen Instituts für Serumforschung und Serumprüfung) w Steglitz (Berlin). Kontynuował tam swoje prace nad immunologią i hemolizynami; badania te doprowadziły ostatecznie do jego boczno-łańcuchowej teorii odporności. W 1899 roku instytut został przeniesiony do Frankfurtu nad Menem i przekształcony w Instytut Terapii Eksperymentalnej (Institut für experimentelle Therapie). Ehrlich prowadził tu badania nad chemioterapią i chorobami zakaźnymi. W 1904 r. Ehrlich został profesorem honorowym Uniwersytetu w Getyndze.
Paul Ehrlich otrzymał Nagrodę Nobla w dziedzinie medycyny wraz z Elie Metschnikoffem w 1908 r. za badania nad odpornością. W 1906 r. odkrył wzór strukturalny atoksylu, związku chemicznego, który okazał się skuteczny w leczeniu śpiączki. Po tym odkryciu próbował stworzyć mniej toksyczną wersję leku. W 1909 r. wraz ze swoim studentem Sahachiro Hatą opracował Salvarsan, lek na śpiączkę, syfilis i inne choroby epidemiczne.
Został uhonorowany przez rząd pruski w 1911 roku, kiedy został wybrany do najwyższej rangi ekscelencji w Privy Medical Council. Kilka lat później Ehrilch zmarł 20 sierpnia 1915 r. w wieku 61 lat.
Jego życie zostało przedstawione w filmie Magiczna kula, który koncentrował się na Salvarsanie® (arszphenamina, „związek 606”), jego lekarstwie na kiłę. Jego praca podniosła świadomość istnienia bariery krew-mózg, fizycznej bariery pomiędzy naczyniami krwionośnymi w centralnym układzie nerwowym.
Koncepcja „magicznej kuli” pochodzi z doświadczeń XIX-wiecznych niemieckich chemików z selektywnym barwieniem tkanek do badań histologicznych, a w szczególności selektywnym barwieniem bakterii (Ehrlich był wyjątkowo utalentowanym chemikiem histologicznym i wynalazł prekursorską technikę barwienia bakterii metodą Grama). Ehrlich doszedł do wniosku, że gdyby można było stworzyć związek, który wybiórczo celowałby w organizm wywołujący chorobę, wówczas wraz ze środkiem selektywności można by dostarczyć toksynę dla tego organizmu. W ten sposób powstałby magiczny pocisk, który zabijałby tylko ten organizm, na który jest ukierunkowany.