La Biblioteca Nacional de Francia tiene su origen en la biblioteca real fundada en el Palacio del Louvre por Carlos V en 1368. Carlos había recibido una colección de manuscritos de su predecesor, Juan II, y los trasladó al Louvre desde el Palacio de la Cité. El primer bibliotecario del que se tiene constancia fue Claude Mallet, valet de chambre del rey, que hizo una especie de catálogo, Inventoire des Livres du Roy nostre Seigneur estans au Chastel du Louvre. Jean Blanchet hizo otra lista en 1380 y Jean de Bégue una en 1411 y otra en 1424. Carlos V era un mecenas del saber y fomentaba la fabricación y la colección de libros. Se sabe que empleó a Nicolás Oresme, Raúl de Presle y otros para transcribir textos antiguos. A la muerte de Carlos VI, esta primera colección fue comprada unilateralmente por el regente inglés de Francia, el duque de Bedford, que la trasladó a Inglaterra en 1424. Al parecer, se dispersó a su muerte en 1435.
Carlos VII hizo poco por reparar la pérdida de estos libros, pero la invención de la imprenta hizo que se iniciara otra colección en el Louvre heredada por Luis XI en 1461. Carlos VIII se apoderó de una parte de la colección de los reyes de Aragón. Luis XII, que había heredado la biblioteca de Blois, incorporó ésta a la Bibliothèque du Roi y la enriqueció aún más con la colección Gruthuyse y con el saqueo de Milán. Francisco I trasladó la colección en 1534 a Fontainebleau y la fusionó con su biblioteca privada. Durante su reinado, las encuadernaciones finas se pusieron de moda y muchos de los libros añadidos por él y por Enrique II son obras maestras del arte de la encuadernación.
Bajo la dirección bibliotecaria de Amyot, la colección fue trasladada a París, durante cuyo proceso se perdieron muchos tesoros. Enrique IV la trasladó de nuevo al Collège de Clermont y en 1604 se instaló en la Rue de la Harpe. El nombramiento de Jacques Auguste de Thou como bibliotecario inició un periodo de desarrollo que la convirtió en la mayor y más rica colección de libros del mundo. Le sucedió su hijo, que fue sustituido, al ser ejecutado por traición, por Jérôme Bignon, el primero de una estirpe de bibliotecarios del mismo nombre. Bajo el mandato de Thou, la biblioteca se enriqueció con las colecciones de la reina Catalina de Médicis. La biblioteca creció rápidamente durante los reinados de Luis XIII y Luis XIV, debido en gran parte al interés del ministro de Finanzas, Colbert, infatigable coleccionista de libros.
Las dependencias de la rue de la Harpe se volvieron inadecuadas, por lo que la biblioteca se trasladó de nuevo, en 1666, a una casa más espaciosa en la rue Vivienne. El ministro Louvois se interesó por la biblioteca tanto como Colbert y durante su gobierno se proyectó la construcción de un magnífico edificio en la plaza Vendôme. La muerte de Louvois, sin embargo, impidió la realización de este plan. Louvois contrató a Mabillon, Thévenot y otros para conseguir libros de todas las fuentes. En 1688 se elaboró un catálogo en ocho volúmenes.
La biblioteca se abrió al público en 1692, bajo la administración del abate Louvois, hijo del ministro Louvois. El abate Louvois fue sucedido por Jean-Paul Bignon, quien instituyó una reforma completa del sistema de la biblioteca. Se hicieron catálogos que aparecieron de 1739 a 1753 en 11 volúmenes. Las colecciones aumentaron constantemente mediante compras y donaciones hasta el estallido de la Revolución Francesa, momento en el que corrió un grave peligro de destrucción parcial o total, pero gracias a las actividades de Antoine-Augustin Renouard y Joseph Van Praet no sufrió ningún daño.
Las colecciones de la biblioteca aumentaron a más de 300.000 volúmenes durante la fase radical de la Revolución Francesa, cuando se incautaron las bibliotecas privadas de los aristócratas y del clero. Tras la instauración de la Primera República Francesa en septiembre de 1792, «la Asamblea declaró que la Bibliotheque du Roi era propiedad nacional y la institución pasó a llamarse Bibliothèque Nationale». Después de cuatro siglos de control por parte de la Corona, esta gran biblioteca pasó a ser propiedad del pueblo francés»
Se estableció una nueva organización administrativa. Napoleón se interesó mucho por la biblioteca y, entre otras cosas, dictó la orden de que todos los libros de las bibliotecas provinciales que no estuvieran en posesión de la Bibliothèque Nationale fueran remitidos a ésta, a reserva de ser sustituidos por intercambios de igual valor procedentes de las colecciones duplicadas, lo que hacía posible, como decía Napoleón, encontrar un ejemplar de cualquier libro de Francia en la Biblioteca Nacional. Además, Napoleón aumentó las colecciones con el botín de sus conquistas. Un número considerable de estos libros fue restaurado tras su caída. Durante el periodo comprendido entre 1800 y 1836, la biblioteca estuvo prácticamente bajo el control de Joseph Van Praet. A su muerte contenía más de 650.000 libros impresos y unos 80.000 manuscritos.
Después de una serie de cambios de régimen en Francia, se convirtió en la Biblioteca Nacional Imperial y en 1868 se trasladó a los edificios recién construidos en la Rue de Richelieu diseñados por Henri Labrouste. A la muerte de Labrouste, en 1875, la biblioteca fue ampliada aún más, incluyendo la gran escalera y el Salón Oval, por el arquitecto académico Jean-Louis Pascal. En 1896, la biblioteca seguía siendo el mayor depósito de libros del mundo, aunque desde entonces ha sido superado por otras bibliotecas para ese título.En 1920, la colección de la biblioteca había crecido hasta 4.050.000 volúmenes y 11.000 manuscritos.
M. Henri Lemaître, vicepresidente de la Asociación Francesa de Bibliotecas y antiguo bibliotecario de la Bibliothèque Nationale … esbozó la historia de las bibliotecas y los bibliotecarios franceses durante la ocupación alemana, un registro de destrucción y discriminación racial. Durante los años 1940-1945, se perdieron más de dos millones de libros a causa de los estragos de la guerra, muchos de los cuales formaban las insustituibles colecciones locales en las que Francia abundaba. Muchos miles de libros, incluso bibliotecas completas, fueron confiscados por los alemanes. Sin embargo, los bibliotecarios franceses se mantuvieron firmes frente a todas las amenazas y continuaron sirviendo a sus lectores de la mejor manera posible. En su vida privada y en sus ocupaciones profesionales estuvieron en la furgoneta de la lucha contra los nazis, y muchos sufrieron la cárcel y la muerte por su devoción. A pesar de la oposición nazi, mantuvieron el suministro de libros a los prisioneros de guerra franceses. Siguieron suministrando libros de varias listas prohibidas a lectores de confianza; y cuando llegó la liberación, estaban listos con sus planes de rehabilitación con la creación de nuevos centros de libros para el pueblo francés al estilo del sistema inglés de bibliotecas de condado.