Juomapillit ovat yksi vanhimmista koskaan valmistetuista ruokailuvälineistä, mutta niiden suosio alkoi vasta 1800-luvun teollisen vallankumouksen myötä, jolloin otettiin käyttöön ruisruohon pillit ja myöhemmin teollisesti valmistetut paperipillit. Sen kyky siirtää juoma säiliöstä lyhyen putken kautta käyttäjän suuhun tarjosi selviä etuja joissakin tapauksissa, joissa juominen suoraan säiliöstä ei ole toivottavaa tai tehokasta. Lisäksi yksi ratkaisevimmista tekijöistä, jotka antoivat juomapillille sen nykyisen suosion, oli 1800-luvun Euroopassa ja Yhdysvalloissa vallinnut muoti ja ruokailuperinne.
Katsomalla historiaan taaksepäin voimme havaita, että varhaisimpia juomapillejä luotiin jo yli 5000 vuotta sitten! Sumerilaiskaupunkien raunioista ja haudoista arkeologit onnistuivat löytämään kullasta ja jalokivestä lapislazulista valmistettuja olkia. Nämä kalliit 3000-luvulla eKr. tehdyt artefaktit voivat todistaa, että yksinkertaisempia malleja käytettiin jo paljon aikaisemmin, ja ne luotiin luultavasti veistetystä puusta tai luonnollisista onttoista kasveista. Tutkijoiden mukaan sumerilaiset käyttivät oluen juomiseen olutta, joka valmistettiin hyvin yksinkertaisissa käymistiloissa, jotka pakottivat kiinteät sivutuotteet vajoamaan pohjalle ja jättivät juomakelpoisen nesteen päälle. Toisella puolella maailmaa, Argentiinassa, alkuasukkaat käyttivät juomapillejä useiden tuhansien vuosien ajan. Niiden yksinkertaiset puiset mallit mukautettiin myöhemmin metalliseksi laitteeksi nimeltä ”bombilla”, joka toimii sekä oljena että seulana teen juomisessa.
1800-luvulla yleistyi tapa juoda halvoista ja helposti valmistettavista ruisruohonvarsien oljista, mutta niiden heikko rakenne esti niiden pitkäaikaisen käytön (vesi muutti ne nopeasti muusiksi). Tyytymätön juomapillien nykytilaan, amerikkalainen keksijäMarvin C. Stone loi ensimmäisen mallin nykyaikaisesta juomapillistä vuonna 1888. Hän oli kotoisin sikariteollisuudesta ja keksi kietoa paperia kynän ympärille ja levittää siihen ohuen liimakerroksen. Pian hän tarkensi valmistusprosessiaan luomalla automaattikoneen, joka tuotti olkia, jotka eivät menettäisi liimaa edes vahvemmissa alkoholijuomissa.
Siitä lähtien juomapilli pysyi jatkuvassa suosiossa (erityisesti Joseph Friedmanin keksittyä bendy-oljen vuonna 1937), ja monia mielenkiintoisia malleja on luotu viimeisten 50 vuoden aikana. Tämä suuntaus alkoi 1960-luvulla, kun muovi mahdollisti juomapillien nopean ja halvan valmistuksen. Vaikka muovipillit voidaan käyttää uudelleen, sitä ei juurikaan harjoitettu, ja suuret määrät biologisesti hajoamattomia jätemateriaaleja aiheuttavat nykyään suuria ympäristövaikutuksia. Tämän vuoksi monet kansainväliset yritykset ovat aloittaneet biohajoavien juomapillien valmistuksen.