Det franske nationalbibliotek har sin oprindelse i det kongelige bibliotek, der blev grundlagt i Louvre-paladset af Karl V i 1368. Karl havde modtaget en samling manuskripter fra sin forgænger, Johannes II, og overførte dem til Louvre fra Palais de la Cité. Den første bibliotekar var Claude Mallet, kongens kammertjener, som udfærdigede en slags katalog, Inventoire des Livres du Roy nostre Seigneur estans au Chastel du Louvre. Jean Blanchet lavede en anden liste i 1380 og Jean de Bégue en i 1411 og en anden i 1424. Karl 5. var en lærd protektor og tilskyndede til fremstilling og indsamling af bøger. Det er kendt, at han ansatte Nicholas Oresme, Raoul de Presle og andre til at transskribere gamle tekster. Ved Karl VI’s død blev denne første samling ensidigt købt af den engelske regent af Frankrig, hertugen af Bedford, som overførte den til England i 1424. Den blev tilsyneladende spredt ved hans død i 1435.
Charles VII gjorde ikke meget for at råde bod på tabet af disse bøger, men opfindelsen af bogtrykkeriet resulterede i, at en anden samling i Louvre, som Ludvig XI arvede i 1461, blev påbegyndt. Karl VIII beslaglagde en del af samlingen fra kongerne af Aragonien. Ludvig XII, som havde arvet biblioteket i Blois, indlemmede dette i Bibliothèque du Roi og berigede det yderligere med Gruthuyse-samlingen og med bytte fra Milano. Frans I overførte samlingen i 1534 til Fontainebleau og slog den sammen med sit private bibliotek. I hans regeringstid blev fine indbindinger en dille, og mange af de bøger, der blev tilføjet af ham og Henrik II, er mesterværker af bogbinderkunsten.
Under Amyots bibliotekariske ledelse blev samlingen overført til Paris, og under denne proces gik mange skatte tabt. Henrik IV flyttede den igen til Collège de Clermont, og i 1604 blev den indlogeret i Rue de la Harpe. Udnævnelsen af Jacques Auguste de Thou som bibliotekar indledte en udviklingsperiode, der gjorde den til den største og rigeste bogsamling i verden. Han blev efterfulgt af sin søn, som efter at være blevet henrettet for forræderi blev afløst af Jérôme Bignon, den første i en række bibliotekarer af samme navn. Under de Thou blev biblioteket beriget med dronning Catherine de Medici’s samlinger. Biblioteket voksede hurtigt under Ludvig XIII og Ludvig XIV, hvilket i høj grad skyldtes finansminister Colberts interesse, som var en utrættelig bogsamler.
Da kvartererne i Rue de la Harpe blev utilstrækkelige, blev biblioteket igen flyttet i 1666 til et mere rummeligt hus i Rue Vivienne. Minister Louvois interesserede sig lige så meget for biblioteket som Colbert, og under hans administration blev der planlagt en storslået bygning, der skulle opføres på Place Vendôme. Louvois’ død forhindrede imidlertid realiseringen af denne plan. Louvois ansatte Mabillon, Thévenot og andre til at skaffe bøger fra alle mulige kilder. I 1688 blev der udarbejdet et katalog i otte bind.
Biblioteket åbnede for offentligheden i 1692 under administration af Abbé Louvois, minister Louvois’ søn. Abbé Louvois blev efterfulgt af Jean-Paul Bignon, som iværksatte en fuldstændig reform af bibliotekets system. Der blev udarbejdet kataloger, som udkom fra 1739 til 1753 i 11 bind. Samlingerne voksede støt ved køb og gaver frem til den franske revolutions udbrud, hvor det var i alvorlig fare for delvis eller total ødelæggelse, men takket være Antoine-Augustin Renouards og Joseph Van Praets aktiviteter led det ingen skade.
Bibliotekets samlinger voksede til over 300.000 bind under den franske revolutions radikale fase, hvor aristokraternes og præsternes private biblioteker blev beslaglagt. Efter oprettelsen af den første franske republik i september 1792 “erklærede forsamlingen Bibliotheque du Roi for national ejendom, og institutionen blev omdøbt til Bibliothèque Nationale”. Efter fire århundreders kontrol fra kronens side blev dette store bibliotek nu det franske folks ejendom.”
Der blev etableret en ny administrativ organisation. Napoleon viste stor interesse for biblioteket og udstedte bl.a. en ordre om, at alle bøger i provinsbibliotekerne, som ikke var i Bibliothèque Nationale’s besiddelse, skulle fremsendes til denne, med forbehold for at de kunne erstattes af ombytninger af samme værdi fra de duplikerede samlinger, hvilket gjorde det muligt, som Napoleon sagde, at finde et eksemplar af enhver bog i Frankrig i Nationalbiblioteket. Napoleon forøgede desuden samlingerne med bytte fra sine erobringer. Et betydeligt antal af disse bøger blev restaureret efter hans fald. I perioden fra 1800 til 1836 var biblioteket praktisk talt under Joseph Van Praets kontrol. Ved hans død indeholdt det mere end 650.000 trykte bøger og ca. 80.000 manuskripter.
Efter en række regimeskift i Frankrig blev det omdannet til det kejserlige nationalbibliotek og flyttede i 1868 til nyopførte bygninger på Rue de Richelieu designet af Henri Labrouste. Efter Labrouste’s død i 1875 blev biblioteket yderligere udvidet, herunder den store trappe og den ovale sal, af den akademiske arkitekt Jean-Louis Pascal. I 1896 var biblioteket stadig det største lager af bøger i verden, selv om det siden er blevet overgået af andre biblioteker om den titel. 1920 var bibliotekets samling vokset til 4.050.000 bind og 11.000 manuskripter.
M. Henri Lemaître, næstformand for den franske biblioteksforening og tidligere bibliotekar ved Bibliothèque Nationale … skitserede historien om franske biblioteker og bibliotekarer under den tyske besættelse, en beretning om ødelæggelser og racediskrimination. I perioden 1940-1945 gik over to millioner bøger tabt som følge af krigens hærgen, hvoraf mange af dem udgjorde de uerstattelige lokale samlinger, som Frankrig var rig på. Mange tusinde bøger, herunder hele biblioteker, blev beslaglagt af tyskerne. Alligevel stod de franske bibliotekarer fast på trods af alle trusler og fortsatte med at betjene deres læsere efter bedste evne. Både i deres privatliv og i deres professionelle erhverv stod de i forreste række i kampen mod nazisterne, og mange måtte lide fængselsstraf og døden for deres hengivenhed. Trods nazisternes modstand fortsatte de med at forsyne franske krigsfanger med bøger. De fortsatte med at levere bøger på forskellige forbudte lister til troværdige læsere; og da befrielsen kom, var de klar med deres planer for rehabilitering med oprettelsen af nye bogcentre for det franske folk i lighed med det engelske amtsbibliotekssystem.