El 22 de febrero de 1892 Carlos Thays, Director de Parques y Paseos de Buenos Aires entre 1891 y 1913, elevó un proyecto a la Intendencia Municipal, a cargo de Francisco Bollini, exponiendo la necesidad de crear un «jardín botánico de aclimatación» para objetivos científicos, recreativos y paisajísticos, aconsejando hacerlo en el lugar que ocupa actualmente – un perímetro de ocho manzanas delimitado por la avenida Santa Fe, la avenida Las Heras, la calle República Árabe de Siria y la Plaza Italia – y en el que funcionaban en ese entonces el Departamento Nacional de Agricultura y el Museo Histórico Nacional. El proyecto resultó aprobado y se entregaron dichos terrenos el 2 de septiembre de 1892. Para tal fin, fueron rellenados con tierra más fértil de otras regiones.
El solar se encontraba en un lugar alto (desde allí se divisaban los «bañados de Palermo» y la costa del Rio de la Plata) y hasta los finales de la época colonial había sido un almacén de pólvora, llamado «polvorín de Cueli», por el nombre de una familia que tenía su residencia en el lugar.
En el Jardín Botánico, Thays investigó los métodos de germinación de las semillas y llevó a cabo varios experimentos para la producción industrial de la yerba mate. Mediante el método científico pudo redescubrir el sistema que se había perdido luego de la expulsión de los jesuitas. Esto ya había sido enunciado por el naturalista Aimé Bonpland, quien había vivido con herederos de las misiones jesuíticas, pero sus estudios se habían perdido. En 1895 recibió las primeras semillas de yerba mate y gajos de plantas. Los gajos no prosperaron, pero logró hacer germinar las semillas al someterlas a una prolongada inmersión en agua a elevada temperatura.
Debido al éxito obtenido, la Dirección de Agricultura y Ganadería de la Nación Argentina confirmó la eficacia del llamado «método Thays» y lo divulgó en la región noroeste del país. Entre 1914 y 1918, durante la gestión del ingeniero agrónomo Benito Javier Carrasco, sucesor de Thays, se incorporó la Escuela de Jardineros (la actual Escuela Técnica de Jardinería «Cristóbal María Hicken»), el herbario, el semillero, la biblioteca especializada en botánica y el taller de fotografía. Al igual que Thays, Carrasco impulsó el desarrollo de varias de las obras que hoy en día conforman el Jardín Botánico y el sistema de espacios públicos verdes de la ciudad de Buenos Aires.
El 13 de septiembre de 2012 se inauguró la Biblioteca Infantil de la Naturaleza, que cuenta con 1000 libros de literatura infantil para la divulgación y el aprendizaje de las ciencias naturales. En marzo de 2023 fue seleccionado como el primer refugio climático de la ciudad de Buenos Aires pues las temperaturas en su interior son, en promedio, un 4,8 °C menores que las registradas en sus alrededores.
El reconocimiento fue entregado por la Agencia de Protección Ambiental, perteneciente a la Secretaría de Ambiente porteña. «La proporción de sombra natural que nos ofrece el Jardín Botánico y el impacto en la temperatura es importante que sea difundido y reconocido como refugio para la ciudadanía frente al calor extremo» destacó el subsecretario de Políticas de Infraestructura Verde Urbana y Desarrollo Sostenible de la ciudad, Ariel Álvarez Palma, al explicar las razones de la distinción.
El Día Nacional de la Botánica se conmemora en Argentina el 7 de septiembre de cada año, en el aniversario de la apertura del Jardín Botánico, concretada en 1898.