De Nationale Bibliotheek van Frankrijk vindt haar oorsprong in de koninklijke bibliotheek die in 1368 door Karel V in het Paleis van het Louvre werd gesticht. Karel had van zijn voorganger, Jan II, een verzameling manuscripten ontvangen en deze van het Palais de la Cité naar het Louvre overgebracht. De eerste bekende bibliothecaris was Claude Mallet, de kamerdienaar van de koning, die een soort catalogus maakte, Inventoire des Livres du Roy nostre Seigneur estans au Chastel du Louvre. Jean Blanchet maakte een andere lijst in 1380 en Jean de Bégue een in 1411 en nog een in 1424. Karel V was een mecenas en moedigde het maken en verzamelen van boeken aan. Het is bekend dat hij Nicholas Oresme, Raoul de Presle en anderen in dienst had om oude teksten te transcriberen. Bij de dood van Karel VI werd deze eerste collectie eenzijdig aangekocht door de Engelse regent van Frankrijk, de hertog van Bedford, die ze in 1424 naar Engeland overbracht. Bij zijn dood in 1435 werd zij blijkbaar verspreid.
Charles VII deed weinig om het verlies van deze boeken te herstellen, maar de uitvinding van de boekdrukkunst leidde tot het ontstaan van een andere collectie in het Louvre, die in 1461 door Lodewijk XI werd geërfd. Karel VIII nam een deel van de collectie van de koningen van Aragon in beslag. Lodewijk XII, die de bibliotheek van Blois had geërfd, nam deze op in de Bibliothèque du Roi en verrijkte deze verder met de verzameling Gruthuyse en met plunderingen uit Milaan. Frans I bracht de verzameling in 1534 over naar Fontainebleau en voegde ze samen met zijn privé-bibliotheek. Tijdens zijn bewind werd fijn bindwerk de rage en veel van de door hem en Hendrik II toegevoegde boeken zijn meesterwerken van de bindkunst.
Onder het bibliothecariaat van Amyot werd de verzameling overgebracht naar Parijs, waarbij veel schatten verloren gingen. Hendrik IV verplaatste het opnieuw naar het Collège de Clermont en in 1604 werd het ondergebracht in de Rue de la Harpe. De benoeming van Jacques Auguste de Thou tot bibliothecaris luidde een periode van ontwikkeling in die het tot de grootste en rijkste boekenverzameling ter wereld maakte. Hij werd opgevolgd door zijn zoon, die na zijn executie wegens verraad werd vervangen door Jérôme Bignon, de eerste van een rij bibliothecarissen met dezelfde naam. Onder de Thou werd de bibliotheek verrijkt door de collecties van koningin Catharina de Medici. Tijdens de regeerperiodes van Lodewijk XIII en Lodewijk XIV maakte de bibliotheek een snelle groei door, die voor een groot deel te danken was aan de belangstelling van de minister van Financiën, Colbert, een onvermoeibare verzamelaar van boeken.
De vertrekken in de Rue de la Harpe werden ontoereikend en de bibliotheek werd in 1666 opnieuw overgebracht naar een ruimer huis in de Rue Vivienne. Minister Louvois had evenveel belangstelling voor de bibliotheek als Colbert en tijdens zijn ambtstermijn werd de bouw van een prachtig gebouw op de Place Vendôme gepland. De dood van Louvois verhinderde echter de uitvoering van dit plan. Louvois nam Mabillon, Thévenot en anderen in dienst om boeken uit alle bronnen aan te schaffen. In 1688 werd een catalogus in acht delen samengesteld.
De bibliotheek werd in 1692 voor het publiek geopend, onder het bestuur van Abbé Louvois, de zoon van minister Louvois. Abbé Louvois werd opgevolgd door Jean-Paul Bignon, die een volledige hervorming van het bibliotheeksysteem in gang zette. Er werden catalogi gemaakt die van 1739 tot 1753 in 11 delen verschenen. De collecties groeiden gestaag door aankopen en schenkingen tot aan het uitbreken van de Franse Revolutie, toen zij ernstig gevaar liep geheel of gedeeltelijk te worden vernietigd, maar dankzij de activiteiten van Antoine-Augustin Renouard en Joseph Van Praet bleef de schade beperkt.
De collecties van de bibliotheek groeiden tot meer dan 300.000 banden tijdens de radicale fase van de Franse Revolutie, toen de privé-bibliotheken van aristocraten en geestelijken in beslag werden genomen. Na de oprichting van de Franse Eerste Republiek in september 1792 “verklaarde de Assemblée de Bibliotheque du Roi tot nationaal bezit en werd de instelling omgedoopt tot de Bibliothèque Nationale. Na vier eeuwen in handen van de Kroon te zijn geweest, werd deze grote bibliotheek nu eigendom van het Franse volk.”
Er werd een nieuwe administratieve organisatie opgezet. Napoleon toonde veel belangstelling voor de bibliotheek en vaardigde onder meer een bevel uit dat alle boeken in provinciale bibliotheken die de Bibliothèque Nationale niet bezat, aan haar moesten worden overgedragen, onder voorbehoud van vervanging door gelijkwaardige boeken uit de duplicatenverzamelingen, waardoor het, zoals Napoleon zei, mogelijk werd om van elk boek in Frankrijk een exemplaar in de Nationale Bibliotheek te vinden. Napoleon breidde de collecties bovendien uit met de buit van zijn veroveringen. Een aanzienlijk aantal van deze boeken werd na zijn ondergang gerestaureerd. In de periode van 1800 tot 1836 stond de bibliotheek vrijwel onder controle van Joseph Van Praet. Bij zijn dood bevatte zij meer dan 650.000 gedrukte boeken en ongeveer 80.000 manuscripten.
Na een reeks regimewisselingen in Frankrijk werd zij de Keizerlijke Nationale Bibliotheek en in 1868 werd zij overgebracht naar nieuwe gebouwen aan de Rue de Richelieu, ontworpen door Henri Labrouste. Na Labrouste’s dood in 1875 werd de bibliotheek verder uitgebreid, onder meer met de grote trap en de Ovale Zaal, door de academische architect Jean-Louis Pascal. In 1896 was de bibliotheek nog steeds de grootste bewaarplaats van boeken ter wereld, hoewel zij sindsdien door andere bibliotheken voor die titel is ingehaald.Tegen 1920 was de collectie van de bibliotheek gegroeid tot 4.050.000 boekdelen en 11.000 manuscripten.
M. Henri Lemaître, vice-voorzitter van de Franse Bibliotheekvereniging en voormalig bibliothecaris van de Bibliothèque Nationale … schetste het verhaal van de Franse bibliotheken en bibliothecarissen tijdens de Duitse bezetting, een verslag van vernietiging en rassendiscriminatie. In de periode 1940-1945 zijn meer dan twee miljoen boeken verloren gegaan door de verwoestingen van de oorlog, waarvan vele de onvervangbare plaatselijke collecties vormden waarin Frankrijk rijk was. Vele duizenden boeken, waaronder complete bibliotheken, werden door de Duitsers in beslag genomen. Toch hielden de Franse bibliothecarissen stand tegen alle bedreigingen en bleven zij hun lezers zo goed mogelijk van dienst zijn. In hun privé-leven en in hun beroepsmatige bezigheden stonden zij in het middelpunt van de strijd tegen de nazi’s, en velen ondergingen gevangenschap en de dood voor hun toewijding. Ondanks het verzet van de nazi’s bleven zij Franse krijgsgevangenen van boeken voorzien. Zij bleven boeken leveren die op verschillende verboden lijsten stonden, aan betrouwbare lezers; en toen de bevrijding kwam, stonden zij klaar met hun plannen voor rehabilitatie met de oprichting van nieuwe boekencentra voor het Franse volk naar het voorbeeld van het Engelse county bibliotheeksysteem.