A francia nemzeti könyvtár az V. Károly által 1368-ban a Louvre palotában alapított királyi könyvtárra vezethető vissza. Károly kéziratgyűjteményt kapott elődjétől, II. jánostól, és a Palais de la Cité-ből a Louvre-ba helyezte át. Az első feljegyzett könyvtáros Claude Mallet, a király komornyikja volt, aki egyfajta katalógust készített Inventoire des Livres du Roy nostre Seigneur estans au Chastel du Louvre címmel. Jean Blanchet 1380-ban, Jean de Bégue pedig 1411-ben és 1424-ben készített egy másik listát. V. Károly a tanulás pártfogója volt, és ösztönözte a könyvek készítését és gyűjtését. Ismeretes, hogy Nicholas Oresme-t, Raoul de Presle-t és másokat is alkalmazott az ókori szövegek átírására. VI. Károly halálakor ezt az első gyűjteményt Franciaország angol régense, Bedford hercege egyoldalúan megvásárolta, és 1424-ben Angliába szállította. Úgy tűnik, hogy 1435-ben bekövetkezett halálakor szétszóródott.
VII. Károly keveset tett e könyvek elvesztésének helyreállításáért, de a könyvnyomtatás feltalálása azt eredményezte, hogy 1461-ben a Louvre-ban egy másik gyűjtemény is elindult, amelyet XI. Lajos örökölt. Károly VIII. lefoglalta az aragóniai királyok gyűjteményének egy részét. XII. Lajos, aki a blois-i könyvtárat örökölte, az utóbbit beolvasztotta a Bibliothèque du Roi-ba, és tovább gazdagította azt a Gruthuyse-gyűjteménnyel és a Milánóból származó zsákmányokkal. I. Ferenc 1534-ben a gyűjteményt Fontainebleau-ba helyezte át, és egyesítette magánkönyvtárával. Az ő uralkodása alatt a szép kötés lett a divat, és az általa és II. Henrik által hozzáadott könyvek közül sok a kötőművészet remekműve.
A gyűjteményt Amyot könyvtárosa alatt Párizsba szállították, amely folyamat során sok kincs elveszett. IV. Henrik ismét a Collège de Clermont-ba helyezte át, majd 1604-ben a Rue de la Harpe-on kapott helyet. Jacques Auguste de Thou könyvtárosi kinevezése olyan fejlődési időszakot indított el, amely a világ legnagyobb és leggazdagabb könyvgyűjteményévé tette. Őt fia követte, akit, amikor árulásért kivégezték, Jérôme Bignon váltott fel, az azonos nevű könyvtárosok sorának első tagja. De Thou alatt a könyvtár Medici Katalin királyné gyűjteményével gazdagodott. A könyvtár XIII. és XIV. Lajos uralkodása alatt gyorsan gyarapodott, ami nagyrészt Colbert pénzügyminiszter, a fáradhatatlan könyvgyűjtő érdeklődésének volt köszönhető.
A Rue de la Harpe-on lévő helyiségek elégtelenné váltak, ezért a könyvtárat 1666-ban ismét átköltöztették egy tágasabb házba, a Rue Vivienne-re. Louvois miniszter ugyanolyan nagy érdeklődést tanúsított a könyvtár iránt, mint Colbert, és az ő kormányzása alatt tervezték egy pompás épület felállítását a Place Vendôme-on. Louvois halála azonban megakadályozta e terv megvalósítását. Louvois Mabillont, Thévenot-t és másokat alkalmazott, hogy minden forrásból szerezzenek be könyveket. 1688-ban összeállítottak egy nyolc kötetes katalógust.
A könyvtár 1692-ben nyílt meg a nagyközönség előtt, Louvois abbé, Louvois miniszter fia igazgatása alatt. Louvois apátot Jean-Paul Bignon követte, aki a könyvtár rendszerének teljes reformját vezette be. Katalógusokat készítettek, amelyek 1739 és 1753 között 11 kötetben jelentek meg. A gyűjtemények vásárlás és ajándékozás útján folyamatosan gyarapodtak a francia forradalom kitöréséig, amikor is komolyan fenyegette a részleges vagy teljes pusztulás veszélye, de Antoine-Augustin Renouard és Joseph Van Praet tevékenységének köszönhetően nem szenvedett kárt.
A könyvtár gyűjteménye a francia forradalom radikális szakaszában, amikor az arisztokraták és a papság magánkönyvtárait lefoglalták, 300 000 kötet fölé duzzadt. Az Első Francia Köztársaság 1792. szeptemberi megalakulása után “a Képviselőház a Bibliotheque du Roi-t nemzeti tulajdonná nyilvánította, és az intézményt átnevezték Bibliothèque Nationale-nak. A korona négy évszázados ellenőrzése után ez a nagy könyvtár most a francia nép tulajdonává vált.”
Új közigazgatási szervezetet hoztak létre. Napóleon nagy érdeklődést tanúsított a könyvtár iránt, és többek között elrendelte, hogy a tartományi könyvtárakban lévő, a Bibliothèque Nationale birtokában nem lévő összes könyvet továbbítani kell a Bibliothèque Nationale-nak, azzal a feltétellel, hogy a duplikátumgyűjteményekből származó azonos értékű cserékkel pótolják, lehetővé téve – ahogy Napóleon mondta -, hogy bármely franciaországi könyvből találjanak egy példányt a Nemzeti Könyvtárban. Napóleon emellett a gyűjteményeket a hódításaiból származó zsákmánnyal is gyarapította. E könyvek jelentős részét bukása után restaurálták. Az 1800 és 1836 közötti időszakban a könyvtár gyakorlatilag Joseph Van Praet irányítása alatt állt. Halálakor több mint 650 000 nyomtatott könyvet és mintegy 80 000 kéziratot tartalmazott.
A franciaországi rendszerváltások sorozatát követően a könyvtár a császári nemzeti könyvtár lett, és 1868-ban Henri Labrouste által tervezett újonnan épített épületekbe költözött a Rue de Richelieu-nél. Labrouste 1875-ben bekövetkezett halála után a könyvtárat tovább bővítette Jean-Louis Pascal akadémikus építész, beleértve a nagy lépcsőházat és az Ovális termet. A könyvtár 1896-ban még mindig a világ legnagyobb könyvtára volt, bár azóta más könyvtárak megelőzték ezt a címet. 1920-ra a könyvtár gyűjteménye 4.050.000 kötetre és 11.000 kéziratra nőtt.
M. Henri Lemaître, a Francia Könyvtári Szövetség egyik alelnöke, a Bibliothèque Nationale korábbi könyvtárosa … felvázolta a francia könyvtárak és könyvtárosok történetét a német megszállás alatt, a pusztítás és a faji megkülönböztetés rekordját. 1940-1945 között több mint kétmillió könyv veszett oda a háború pusztításai miatt, amelyek közül sok olyan pótolhatatlan helyi gyűjteményt alkotott, amelyben Franciaország bővelkedett. Sok ezer könyvet, köztük teljes könyvtárakat is lefoglaltak a németek. A francia könyvtárosok azonban minden fenyegetéssel szemben kitartottak, és továbbra is legjobb tudásuk szerint szolgálták olvasóikat. Magánéletükben és hivatásukban is a nácik elleni harc farvizén voltak, és sokan börtönbüntetést és halált szenvedtek odaadásukért. A náci ellenállás ellenére fenntartották a francia hadifoglyok könyvellátását. Továbbra is szállították a különböző tiltólistákon szereplő könyveket a megbízható olvasóknak; és amikor eljött a felszabadulás, készen álltak a rehabilitációra vonatkozó terveikkel, új könyvközpontok létrehozásával a francia nép számára az angol megyei könyvtári rendszer mintájára.
Az angol megyei könyvtári rendszerhez hasonlóan.