Tras la llegada de los primeros científicos extranjeros contratados por el Gobierno Nacional para la enseñanza de las Ciencias Naturales, Domingo F. Sarmiento (Presidente de la Nación) y Nicolás Avellaneda (Ministro de Justicia, Culto e Instrucción Pública de la Nación) proyectan en 1872 una ley en la que se habla de una «Academia de Ciencias Físicas y Matemáticas». Pocos meses más tarde, se firmó el Decreto 9182 por el que se nombra una comisión para la construcción del edificio de su sede, que es el que actualmente ocupa.

Cabe destacar que en el proyecto de ley firmado por el ministro Avellaneda, presentado ante la Cámara el 4 de septiembre de 1872, en su articulo 2º señala:

«…la Academia de Ciencias tendrá un edificio propio, en el que, además de aulas oficinas necesarias, habrá los siguientes departamentos: 1º Un gabinete de Física y Matemáticas; 2º Un laboratorio de Química; 3º un Museo mineralógico; 4º Un herbario y un jardín botánico; 5º Un museo zoológico; 6º Una Biblioteca.»

Para cumplir con parte de ese cometido, se trajeron de Europa obras y colecciones completas de las más valiosas publicaciones científicas de la época. Éste fue el inicio de la Biblioteca de la Academia Nacional de Ciencias, y la razón de su importante acervo, no sólo en obras dedicadas a las Ciencias Exactas y Naturales, sino también referidas a la Historia y a la Filosofía de la Ciencia. Como ejemplo pueden citarse : Annalen der Physik und Chemie (llamada corrientemente Anales de Poggendorff) desde 1824 y Journal der Pharmacie und Apotheker (desde 1794), que, entre otras de igual valor, podemos encontrar en la sección Hemeroteca.

En sus inicios, la Biblioteca estuvo bajo la dirección del Secretario de la Academia, D. Tobías Garzón, destacado educador y periodista de la ciudad de Córdoba.

En el año 1994 comenzó la informatización de la Biblioteca. Dada la inmensa cantidad de material existente, se decidió, en ese momento, ingresar en la base de datos digital solo el material que se recibiría desde esa fecha y, paulatinamente, efectuar la incorporación a la base del material ya existente.