Frankrikes nationalbibliotek har sitt ursprung i det kungliga bibliotek som Karl V grundade i Louvren 1368. Karl hade fått en samling manuskript från sin föregångare Johannes II och överförde dem till Louvren från Palais de la Cité. Den förste bibliotekarien var Claude Mallet, kungens kammarbetjänt, som gjorde ett slags katalog, Inventoire des Livres du Roy nostre Seigneur estans au Chastel du Louvre. Jean Blanchet gjorde en annan förteckning 1380 och Jean de Bégue en 1411 och en annan 1424. Karl V var en beskyddare av lärdomar och uppmuntrade tillverkning och insamling av böcker. Det är känt att han anställde Nicholas Oresme, Raoul de Presle och andra för att transkribera gamla texter. Vid Karl VI:s död köptes denna första samling ensidigt av den engelske regenten av Frankrike, hertigen av Bedford, som överförde den till England 1424. Den var uppenbarligen spridd vid hans död 1435.
Karl VII gjorde inte mycket för att reparera förlusten av dessa böcker, men uppfinningen av boktryckarkonsten resulterade i att en annan samling startades i Louvren som Louis XI ärvde 1461. Karl VIII lade beslag på en del av samlingen från kungarna av Aragonien. Ludvig XII, som hade ärvt biblioteket i Blois, införlivade det senare i Kungliga biblioteket och berikade det ytterligare med Gruthuyse-samlingen och med plundring från Milano. Franciskus I flyttade samlingen 1534 till Fontainebleau och slog samman den med sitt privata bibliotek. Under hans regeringstid blev fina inbindningar populära och många av de böcker som han och Henrik II lade till är mästerverk av inbindarkonst.
Under Amyots bibliotekarie flyttades samlingen till Paris, och under denna process gick många skatter förlorade. Henrik IV flyttade den återigen till Collège de Clermont och 1604 inhystes den i Rue de la Harpe. När Jacques Auguste de Thou utsågs till bibliotekarie inleddes en utvecklingsperiod som gjorde den till världens största och rikaste boksamling. Han efterträddes av sin son som efter att ha avrättats för förräderi ersattes av Jérôme Bignon, den förste i en rad bibliotekarier med samma namn. Under de Thou berikades biblioteket av drottning Catherine de Medicis samlingar. Biblioteket växte snabbt under Ludvig XIII:s och Ludvig XIV:s regeringstid, vilket till stor del berodde på finansminister Colbert, en outtröttlig boksamlare.
Då lokalerna i Rue de la Harpe blev otillräckliga flyttades biblioteket återigen, 1666, till ett rymligare hus i Rue Vivienne. Ministern Louvois intresserade sig lika mycket för biblioteket som Colbert och under hans administration planerades en magnifik byggnad som skulle uppföras på Place Vendôme. Louvois’ död förhindrade dock att denna plan förverkligades. Louvois anställde Mabillon, Thévenot och andra för att skaffa böcker från alla möjliga källor. År 1688 sammanställdes en katalog i åtta volymer.
Biblioteket öppnades för allmänheten 1692, under administration av abbé Louvois, minister Louvois son. Abbé Louvois efterträddes av Jean-Paul Bignon, som inledde en fullständig reform av bibliotekets system. Kataloger gjordes som publicerades mellan 1739 och 1753 i 11 volymer. Samlingarna ökade stadigt genom inköp och gåvor fram till franska revolutionens utbrott, då det var i stor fara att delvis eller helt förstöras, men tack vare Antoine-Augustin Renouards och Joseph Van Praets verksamhet drabbades det inte av några skador.
Bibliotekets samlingar svällde till över 300 000 volymer under den franska revolutionens radikala fas, då aristokraternas och prästerskapets privatbibliotek beslagtogs. Efter upprättandet av den franska första republiken i september 1792 ”förklarade församlingen att Bibliotheque du Roi var nationell egendom och institutionen döptes om till Bibliothèque Nationale”. Efter fyra århundraden av kronans kontroll blev detta stora bibliotek nu det franska folkets egendom.”
En ny administrativ organisation upprättades. Napoleon visade stort intresse för biblioteket och utfärdade bland annat en order om att alla böcker i provinsbiblioteken som inte fanns i Bibliothèque Nationale skulle skickas till den, under förutsättning att de ersattes med utbyten av samma värde från de duplicerade samlingarna, vilket gjorde det möjligt, som Napoleon sa, att hitta ett exemplar av vilken bok som helst i Frankrike i Nationalbiblioteket. Napoleon utökade dessutom samlingarna med byte från sina erövringar. Ett betydande antal av dessa böcker återställdes efter hans fall. Under perioden 1800-1836 stod biblioteket praktiskt taget under Joseph Van Praets kontroll. Vid hans död innehöll det mer än 650 000 tryckta böcker och cirka 80 000 manuskript.
Efter en rad regimskiften i Frankrike blev biblioteket det kejserliga nationalbiblioteket och flyttade 1868 till nybyggda byggnader på Rue de Richelieu, ritade av Henri Labrouste. Efter Labroustes död 1875 byggdes biblioteket ut ytterligare, inklusive den stora trappan och det ovala rummet, av den akademiska arkitekten Jean-Louis Pascal. År 1896 var biblioteket fortfarande det största bokförrådet i världen, även om det sedan dess har överträffats av andra bibliotek för den titeln. 1920 hade bibliotekets samling vuxit till 4 050 000 volymer och 11 000 manuskript.
M. Henri Lemaître, vice ordförande i den franska biblioteksföreningen och tidigare bibliotekarie vid Bibliothèque Nationale … skisserade historien om franska bibliotek och bibliotekarier under den tyska ockupationen, en historia av förstörelse och rasdiskriminering. Under 1940-1945 förlorades mer än två miljoner böcker genom krigets härjningar, varav många utgjorde de oersättliga lokala samlingar som Frankrike var rikt på. Många tusen böcker, inklusive hela bibliotek, beslagtogs av tyskarna. Men franska bibliotekarier stod emot alla hot och fortsatte att betjäna sina läsare efter bästa förmåga. Både privat och yrkesmässigt stod de i frontlinjen för kampen mot nazisterna, och många fick utstå fängelse och döden för sin hängivenhet. Trots nazisternas motstånd fortsatte de att förse franska krigsfångar med böcker. De fortsatte att tillhandahålla böcker på olika förbjudna listor till pålitliga läsare, och när befrielsen kom var de redo med sina planer för rehabilitering med skapandet av nya bokcentra för det franska folket i likhet med det engelska biblioteksväsendet.