El edificio que se construyó para la Academia tuvo su origen en el Decreto Nº 9182 del 15 de noviembre de 1872 firmado por el Presidente de la Nación, Domingo Sarmiento y su Ministro de Justicia, Culto e Instrucción Pública, Nicolás Avellaneda. En ese decreto se designa una comisión especial para que se encargue de la dirección y construcción del edificio que, hasta hoy, es la sede de la institución.

El sitio escogido para construir el edificio fue una amplia parcela ubicada dentro de la conocida Manzana Jesuítica de la ciudad de Córdoba, que en la actualidad cuenta con la distinción de cuatro Monumentos Nacionales: la Iglesia de la Compañia de Jesús, el antiguo Rectorado de la Universidad Nacional de Córdoba, el Colegio Monserrat y la Academia Nacional de Ciencias. El proyecto definitivo lo realizó el arquitecto sueco Henrik Aberg, a mediados de la segunda mitad del siglo XIX. La Facultad de Ciencias Exactas, Físicas y Naturales de la Universidad Nacional de Córdoba, que nació con la base profesoral y con los elementos de que disponía la Academia, funcionó en ella compartiendo todos sus elementos hasta el día de hoy.

La construcción de la Academia demandó más de una década y el propio Sarmiento no pudo verla concluida durante su gobierno. Hacia 1885 se habían habilitado algunos locales y posiblemente dos años después se terminaron totalmente las obras de esta construcción, cuyo estilo evoca antiguas reminiscencias florentinas, gracias al impulso económico que le suministró el Presidente Miguel Juárez Celman.

El edificio actual de la Academia fue declarado Monumento Histórico Nacional en 1994; y cabe destacar que entre 1882 y 1883 estuvo al frente de las obras el ingeniero Carlos Casaffousth.