Die französische Nationalbibliothek geht auf die königliche Bibliothek zurück, die 1368 von Karl V. im Louvre-Palast gegründet wurde. Karl hatte von seinem Vorgänger Johannes II. eine Handschriftensammlung erhalten und diese aus dem Palais de la Cité in den Louvre verlegt. Der erste bekannte Bibliothekar war Claude Mallet, der Kammerdiener des Königs, der eine Art Katalog erstellte: Inventoire des Livres du Roy nostre Seigneur estans au Chastel du Louvre. Jean Blanchet erstellte 1380 ein weiteres Verzeichnis, Jean de Bégue 1411 und 1424 ein weiteres. Karl V. war ein Mäzen der Gelehrsamkeit und förderte die Herstellung und Sammlung von Büchern. Es ist bekannt, dass er Nicholas Oresme, Raoul de Presle und andere damit beauftragte, alte Texte abzuschreiben. Nach dem Tod Karls VI. wurde diese erste Sammlung einseitig vom englischen Regenten Frankreichs, dem Herzog von Bedford, erworben, der sie 1424 nach England überführte. Nach seinem Tod im Jahr 1435 wurde sie offenbar zerstreut.
Karl VII. unternahm wenig, um den Verlust dieser Bücher zu beheben, aber die Erfindung des Buchdrucks führte dazu, dass eine weitere Sammlung im Louvre entstand, die Ludwig XI. 1461 erbte. Karl VIII. beschlagnahmte einen Teil der Sammlung der Könige von Aragonien. Ludwig XII., der die Bibliothek von Blois geerbt hatte, gliederte diese in die Bibliothèque du Roi ein und bereicherte sie mit der Sammlung Gruthuyse und mit Plünderungen aus Mailand. Franz I. verlegte die Sammlung 1534 nach Fontainebleau und vereinigte sie mit seiner Privatbibliothek. Während seiner Herrschaft wurden feine Einbände zur Mode, und viele der von ihm und Heinrich II. hinzugefügten Bücher sind Meisterwerke der Buchbindekunst.
Unter der Bibliotheksleitung von Amyot wurde die Sammlung nach Paris verlegt, wobei viele Schätze verloren gingen. Heinrich IV. verlegte sie erneut in das Collège de Clermont und 1604 wurde sie in der Rue de la Harpe untergebracht. Die Ernennung von Jacques Auguste de Thou zum Bibliothekar leitete eine Entwicklung ein, die sie zur größten und reichsten Büchersammlung der Welt machte. Auf ihn folgte sein Sohn, der nach seiner Hinrichtung wegen Hochverrats von Jérôme Bignon abgelöst wurde, dem ersten einer Reihe von Bibliothekaren mit demselben Namen. Unter de Thou wurde die Bibliothek durch die Sammlungen der Königin Catherine de Medici bereichert. Während der Regierungszeiten Ludwigs XIII. und Ludwigs XIV. wuchs die Bibliothek rasch an, vor allem dank des Interesses des Finanzministers Colbert, der unermüdlich Bücher sammelte.
Da die Räumlichkeiten in der Rue de la Harpe nicht mehr ausreichten, wurde die Bibliothek 1666 in ein geräumigeres Haus in der Rue Vivienne verlegt. Der Minister Louvois interessierte sich ebenso sehr für die Bibliothek wie Colbert, und während seiner Amtszeit wurde ein prächtiges Gebäude an der Place Vendôme geplant, das errichtet werden sollte. Der Tod von Louvois verhinderte jedoch die Verwirklichung dieses Plans. Louvois beauftragte Mabillon, Thévenot und andere mit der Beschaffung von Büchern aus allen Quellen. Im Jahr 1688 wurde ein Katalog in acht Bänden erstellt.
Die Bibliothek wurde 1692 unter der Leitung von Abbé Louvois, dem Sohn von Minister Louvois, der Öffentlichkeit zugänglich gemacht. Abbé Louvois wurde von Jean-Paul Bignon abgelöst, der das System der Bibliothek vollständig reformierte. Es wurden Kataloge erstellt, die von 1739 bis 1753 in 11 Bänden erschienen. Die Sammlungen wuchsen bis zum Ausbruch der Französischen Revolution durch Ankäufe und Schenkungen stetig an. Zu diesem Zeitpunkt war die Bibliothek in großer Gefahr, teilweise oder ganz zerstört zu werden, aber dank der Aktivitäten von Antoine-Augustin Renouard und Joseph Van Praet wurde sie nicht beschädigt.
Die Sammlungen der Bibliothek wuchsen während der radikalen Phase der Französischen Revolution, als die Privatbibliotheken von Aristokraten und Geistlichen beschlagnahmt wurden, auf über 300.000 Bände an. Nach der Gründung der Ersten Französischen Republik im September 1792 „erklärte die Nationalversammlung die Bibliotheque du Roi zum Staatseigentum und die Einrichtung wurde in Bibliothèque Nationale umbenannt. Nach vier Jahrhunderten der Kontrolle durch die Krone wurde diese große Bibliothek nun zum Eigentum des französischen Volkes.“
Eine neue Verwaltungsorganisation wurde eingerichtet. Napoleon zeigte großes Interesse an der Bibliothek und ordnete unter anderem an, dass alle Bücher in den Provinzbibliotheken, die nicht im Besitz der Bibliothèque Nationale waren, an diese weitergeleitet werden sollten, unter der Bedingung, dass sie durch gleichwertige Exemplare aus den Dublettenbeständen ersetzt würden, so dass es, wie Napoleon sagte, möglich war, von jedem Buch in Frankreich ein Exemplar in der Nationalbibliothek zu finden. Napoleon vergrößerte die Sammlungen außerdem durch Beutegut aus seinen Eroberungen. Ein großer Teil dieser Bücher wurde nach seinem Sturz restauriert. In der Zeit von 1800 bis 1836 stand die Bibliothek praktisch unter der Kontrolle von Joseph Van Praet. Bei seinem Tod enthielt sie mehr als 650.000 gedruckte Bücher und etwa 80.000 Manuskripte.
Nach einer Reihe von Regimewechseln in Frankreich wurde sie zur kaiserlichen Nationalbibliothek und zog 1868 in neu errichtete, von Henri Labrouste entworfene Gebäude in der Rue de Richelieu um. Nach Labroustes Tod im Jahr 1875 wurde die Bibliothek von dem akademischen Architekten Jean-Louis Pascal weiter ausgebaut, u. a. durch das große Treppenhaus und den Ovalen Saal. Im Jahr 1896 war die Bibliothek immer noch die größte Büchersammlung der Welt, obwohl sie inzwischen von anderen Bibliotheken übertroffen wurde. 1920 war die Sammlung der Bibliothek auf 4.050.000 Bände und 11.000 Manuskripte angewachsen.
M. Henri Lemaître, Vizepräsident des französischen Bibliotheksverbands und ehemaliger Bibliothekar der Bibliothèque Nationale … skizzierte die Geschichte der französischen Bibliotheken und Bibliothekare während der deutschen Besatzung, eine Geschichte der Zerstörung und der Rassendiskriminierung. In den Jahren 1940-1945 gingen mehr als zwei Millionen Bücher durch die Verwüstungen des Krieges verloren, von denen viele die unersetzlichen lokalen Sammlungen bildeten, an denen Frankreich reich war. Viele Tausende von Büchern, darunter ganze Bibliotheken, wurden von den Deutschen beschlagnahmt. Doch die französischen Bibliothekare hielten allen Bedrohungen stand und stellten sich weiterhin in den Dienst ihrer Leser, so gut sie konnten. Privat und beruflich standen sie im Mittelpunkt des Kampfes gegen die Nazis, und viele von ihnen erlitten für ihre Hingabe Gefängnis und Tod. Trotz des Widerstands der Nazis versorgten sie französische Kriegsgefangene weiterhin mit Büchern. Sie versorgten vertrauenswürdige Leser weiterhin mit Büchern, die auf verschiedenen Verbotslisten standen, und als die Befreiung kam, waren sie mit ihren Plänen zur Rehabilitierung bereit, indem sie neue Buchzentren für die französische Bevölkerung nach dem Vorbild des englischen County Library Systems schufen.