Francouzská národní knihovna má svůj původ v královské knihovně založené v paláci Louvre Karlem V. v roce 1368. Karel získal od svého předchůdce Jana II. sbírku rukopisů, kterou do Louvru přenesl z paláce Palais de la Cité. Prvním zaznamenaným knihovníkem byl Claude Mallet, králův komorník, který vytvořil jakýsi katalog Inventoire des Livres du Roy nostre Seigneur estans au Chastel du Louvre. Další seznam pořídil Jean Blanchet v roce 1380 a Jean de Bégue v roce 1411 a další v roce 1424. Karel V. byl mecenášem vzdělanosti a podporoval tvorbu a sbírání knih. Je známo, že zaměstnával Mikuláše Oresma, Raoula de Presle a další, aby přepisovali antické texty. Po smrti Karla VI. tuto první sbírku jednostranně odkoupil anglický regent Francie, vévoda z Bedfordu, který ji v roce 1424 převedl do Anglie. Po jeho smrti v roce 1435 byla zřejmě rozprášena.
Karel VII. pro nápravu ztráty těchto knih mnoho neudělal, ale vynález knihtisku vedl k tomu, že v roce 1461 začala v Louvru vznikat další sbírka, kterou zdědil Ludvík XI. Karel VIII. se zmocnil části sbírky aragonských králů. Ludvík XII, který zdědil knihovnu v Blois, ji začlenil do Královské knihovny a dále ji obohatil o sbírku Gruthuyse a o kořist z Milána. František I. převezl sbírku v roce 1534 do Fontainebleau a spojil ji se svou soukromou knihovnou. Za jeho vlády se staly módou jemné vazby a mnohé z knih, které do sbírky přidal on a Jindřich II. jsou mistrovskými díly knihařského umění.
Za Amyotova knihovnictví byla sbírka převezena do Paříže, během tohoto procesu se mnoho pokladů ztratilo. Jindřich IV. ji opět přenesl do Collège de Clermont a v roce 1604 byla umístěna v Rue de la Harpe. Jmenování Jacquese Augusta de Thou knihovníkem zahájilo období rozvoje, které z ní učinilo největší a nejbohatší sbírku knih na světě. Po něm nastoupil jeho syn, kterého po popravě za velezradu nahradil Jérôme Bignon, první z řady knihovníků stejného jména. Za de Thoua byla knihovna obohacena o sbírky královny Kateřiny Medicejské. Za vlády Ludvíka XIII. a Ludvíka XIV. se knihovna rychle rozrůstala, zejména díky zájmu ministra financí Colberta, neúnavného sběratele knih.
Knihovna v Rue de la Harpe přestala vyhovovat, a proto byla v roce 1666 opět přestěhována do prostornějšího domu v Rue Vivienne. Ministr Louvois se o knihovnu zajímal docela stejně jako Colbert a za jeho vlády se plánovala výstavba velkolepé budovy na Place Vendôme. Louvoisova smrt však realizaci tohoto plánu zabránila. Louvois zaměstnal Mabillona, Thévenota a další, aby obstarávali knihy ze všech zdrojů. V roce 1688 byl sestaven katalog v osmi svazcích.
Knihovna byla otevřena veřejnosti v roce 1692 pod správou abbého Louvoise, syna ministra Louvoise. Abbé Louvoise vystřídal Jean-Paul Bignon, který zahájil kompletní reformu knihovního systému. Byly vytvořeny katalogy, které vycházely v letech 1739-1753 v 11 svazcích. Sbírky se postupně rozrůstaly nákupy a dary až do vypuknutí Francouzské revoluce, kdy jí hrozilo vážné nebezpečí částečného nebo úplného zničení, ale díky činnosti Antoina-Augustina Renouarda a Josepha Van Praeta neutrpěla žádnou újmu.
V radikální fázi Francouzské revoluce, kdy byly zabaveny soukromé knihovny šlechticů a duchovních, se sbírky knihovny rozrostly na více než 300 000 svazků. Po vzniku první francouzské republiky v září 1792 „prohlásilo Shromáždění Bibliotheque du Roi za národní majetek a instituce byla přejmenována na Bibliothèque Nationale. Po čtyřech stoletích kontroly ze strany koruny se nyní tato velká knihovna stala majetkem francouzského lidu.“
Byla zřízena nová správní organizace. Napoleon se o knihovnu velmi zajímal a mimo jiné vydal příkaz, aby jí byly předány všechny knihy z provinčních knihoven, které nevlastní Bibliothèque Nationale, s tím, že budou nahrazeny výměnami stejné hodnoty z duplicitních fondů, čímž bude možné, jak řekl Napoleon, najít v Národní knihovně výtisk jakékoli knihy ve Francii. Napoleon dále rozšířil sbírky o kořist ze svých výbojů. Značný počet těchto knih byl po jeho pádu restaurován. V letech 1800-1836 byla knihovna prakticky pod kontrolou Josepha Van Praeta. V době jeho smrti obsahovala více než 650 000 tištěných knih a asi 80 000 rukopisů.
Po řadě změn režimu ve Francii se z ní stala Císařská národní knihovna a v roce 1868 byla přestěhována do nově postavených budov na Rue de Richelieu podle návrhu Henriho Labrousta. Po Labroustově smrti v roce 1875 byla knihovna dále rozšířena, včetně velkého schodiště a Oválného sálu, akademickým architektem Jeanem-Louisem Pascalem. Ještě v roce 1896 byla knihovna největším skladištěm knih na světě, i když od té doby ji v tomto titulu předstihly jiné knihovny.
Do roku 1920 se fond knihovny rozrostl na 4 050 000 svazků a 11 000 rukopisů.
M. Henri Lemaître, místopředseda Francouzské knihovnické asociace a bývalý knihovník Národní knihovny … nastínil příběh francouzských knihoven a knihovníků za německé okupace, záznam ničení a rasové diskriminace. V letech 1940-1945 přišly v důsledku válečného pustošení o více než dva miliony knih, z nichž mnohé tvořily nenahraditelné místní fondy, jimiž Francie oplývala. Mnoho tisíc knih, včetně kompletních knihoven, zabavili Němci. Přesto francouzští knihovníci odolali všem hrozbám a nadále sloužili svým čtenářům, jak nejlépe uměli. V soukromém životě i ve svých profesních zaměstnáních byli v záloze boje proti nacistům a mnozí z nich za svou oddanost podstoupili věznění a smrt. I přes odpor nacistů udržovali zásobování francouzských válečných zajatců knihami. Důvěryhodným čtenářům nadále dodávali knihy z různých zakázaných seznamů; a když přišlo osvobození, byli připraveni se svými plány na rehabilitaci s vytvořením nových knižních středisek pro Francouze po vzoru anglického systému hrabských knihoven.
.